Фамилия Кармарян — армянская по происхождению, что сразу видно по суффиксу -ян. В армянской ономастике этот суффикс играет ту же роль, что русские -ов или -ин: он указывает на принадлежность к роду, на происхождение от предка. Буквально Кармарян — «из рода Кармара» или «потомок Кармара».

В основе фамилии лежит слово кармар (գարմար). В армянском языке у него несколько значений, но самое распространённое и исторически весомое — «кожевник», «скорняк», то есть мастер, выделывающий кожу. Это ремесло было в почёте и широко распространено в армянских городах и сёлах. Предок-основатель рода, скорее всего, и был таким ремесленником.

Менее вероятная, но тоже возможная версия связывает фамилию с личным именем или прозвищем Кармар, которое могло произойти от того же корня, но уже не как указание на профессию, а как характеристика человека — например, «упрямый» или «крепкий, как кожа» (в переносном смысле). Однако в армянской традиции фамилии, образованные от названий профессий, встречаются очень часто (ср. Дарбинян — кузнец, Восканян — ювелир), поэтому «ремесленная» версия выглядит предпочтительнее.

Географически фамилия Кармарян распространена в основном среди армян Западной Армении (исторические области в современной Турции) и в диаспоре. В самой Армении она встречается, но реже. Написание фамилии устойчивое, без вариантов — в отличие от некоторых армянских фамилий, которые могли менять окончание при русификации, Кармарян сохранил классическую форму. Если искать аналоги среди русских фамилий, ближе всего будут Кожевников, Скорняков или Сыромятников — все они указывают на того же мастера по коже.