Фамилия Каркгезян — редкий случай в русском ономастиконе, и её происхождение нужно искать не в славянских землях, а на Кавказе и в Малой Азии. Это армянская фамилия, образованная по классической модели с суффиксом -ян, который указывает на принадлежность к роду или происхождение из определённого места. Суффикс -ян (вариант -янц) — самый распространённый в армянских фамилиях, он заменяет русские -ов/-ев или -ин.

Основа фамилии — «Каркгез» — скорее всего, восходит к тюркскому или персидскому слову, которое в русском языке могло звучать как «каркгыз» или «карккез». Наиболее вероятная версия: это искажённое «каргыз» (кыргыз) — этноним, обозначающий киргиза. В армянской среде, особенно в Западной Армении и регионах, граничащих с Турцией и Ираном, тюркские этнонимы нередко становились прозвищами или фамилиями. Человек по прозвищу Каркгез, то есть «киргиз», мог получить его за внешность (смуглый, раскосый), манеру одеваться или место рождения — например, в регионе, где кочевали киргизские племена, хотя для Армении это скорее редкость.

Есть и другая, менее правдоподобная гипотеза: основа может быть связана с турецким словом «karkas» (каркас, скелет) или «kargı» (тростник, копьё), но такие корни не дают устойчивой фамильной традиции. Первая версия — с этнонимом — выглядит логичнее, потому что в армянской ономастике много фамилий, образованных от названий народов: Татарян, Черкезян, Курдоглян.

Географически фамилия Каркгезян почти не встречается в современной России — это штучный случай, чаще её можно найти в армянской диаспоре, особенно в семьях, эмигрировавших из Западной Армении (историческая область, ныне на востоке Турции) или из Ирана. Носители фамилии, скорее всего, принадлежали к ремесленникам или крестьянам, но точных сословных данных нет — армянские фамилии не дают такой привязки, как русские дворянские или купеческие. Написание «Каркгезян» с буквой «г» в корне — это результат адаптации турецкого или персидского звучания через армянскую графику, где гортанные звуки передаются иначе. В армянском оригинале фамилия могла выглядеть как Քարքգեզյան (Каркгезян) или Քարքկեզյան, но точное восстановление затруднено из-за редкой встречаемости.