Фамилия Караханьян — редкий случай, когда её происхождение лежит на поверхности, но требует знания сразу двух языков. Это армянская фамилия, образованная по стандартной модели с патронимическим суффиксом -ян (в старой орфографии — -ьянц, что означает «из рода» или «потомок»). Основа же — Карахан — тюркская.

Слово «Карахан» составное: «кара» (чёрный, тёмный, а в переносном смысле — сильный, великий, простой народ) и «хан» (титул правителя, князя). В тюркских языках «кара-хан» могло означать как конкретный титул («чёрный хан», то есть верховный правитель в определённой системе), так и прозвище — «черный князь» или «великий владыка». Однако в контексте армянской фамилии важно другое: носитель прозвища Карахан мог и не быть ханом. В Закавказье и на Северном Кавказе тюркское прозвище нередко давали человеку за смуглую кожу, суровый нрав или за то, что он служил у местного хана. То есть Караханьян — это потомок человека, которого в армянской или тюркской среде звали Караханом.

С точки зрения словообразования фамилия интересна тем, что использует армянский суффикс для тюркской основы. Это говорит о тесном культурном и языковом контакте: армяне, жившие в регионах с тюркским населением (Восточная Армения, Карабах, Нахичевань, юг современной Армении), нередко брали прозвища из тюркского быта, а затем оформляли их по-армянски. Вариант Караханьян — результат перехода от старого написания Караханьянц к современному. Встречается также форма Караханян (без «ь»), но написание через «ьян» сохраняет историческое произношение.

Сословно предки Караханьян, скорее всего, не относились к высшей знати. Если бы основатель рода был реальным ханом, фамилия, вероятно, закрепилась бы в форме без армянского суффикса (просто Карахан). А вот прозвище, данное человеку из простонародья или мелкого служилого люда, как раз и требовало уточнения «потомок такого-то». Поэтому наиболее правдоподобно, что первый Караханьян был ремесленником, крестьянином или воином, получившим прозвание за внешность или характер.

Фамилия нечастая, но встречается у армян, чьи корни уходят на восток Турции или в регион Нагорного Карабаха. В современной России и Армении её носители — потомки тех, кто сохранил память о тюркоязычном прозвище предка уже в армянской звуковой оболочке.