Фамилия Шермазянц — редкий случай, когда армянская фамилия застыла в грамматической форме, свойственной скорее русскому языку, чем языку её носителей. Ключевая особенность — окончание «-янц», которое в русской ономастике обычно воспринимается как родительный падеж множественного числа (сравните с фамилиями на «-ов», «-ев»). Однако в армянской традиции суффикс «-янц» (или, в более старом написании, «-янц'») — это не падеж, а старинный патронимический суффикс, обозначающий «из рода такого-то». Фактически, Шермазянц — это «из рода Шермаза».

Корень фамилии — «Шермаз». Это, скорее всего, личное имя или прозвище. В армянском языке слово «шер» (շեր) означает «серый» или «седой», а «маз» (մազ) — «волос». Таким образом, Шермаз — это «седой волос» или, в переносном смысле, «седовласый». Прозвище могли дать человеку с рано поседевшими волосами или, что вероятнее, с характерной седой прядью, которая выделяла его среди других. В армянской антропонимике такие «цветовые» прозвища, переходящие в фамилии, встречаются часто, но сочетание «шер» + «маз» уникально — оно не образует типичного сложного имени, а скорее описывает внешнюю примету.

С точки зрения географии, фамилия Шермазянц почти наверняка происходит из Западной Армении (исторической территории на востоке современной Турции) или из региона, где армяне жили компактно до геноцида 1915 года. Суффикс «-янц» вместо более распространённого в восточноармянском языке «-ян» (как в фамилии Шермазян) указывает на западный диалект или на то, что фамилия была записана русскими чиновниками по слуху, с сохранением окончания, которое в оригинале звучало как «-янц». В современной Армении фамилии на «-янц» встречаются реже, чем на «-ян», и часто свидетельствуют о происхождении из диаспоры или из исторических областей вроде Вана, Муша или Эрзурума.

Единственная морфологическая сложность — это то, что фамилия Шермазянц не склоняется по падежам в русском языке, как и все фамилии на согласный с таким окончанием. В документах и бытовом общении её форма остаётся неизменной: «письмо Шермазянц», «встреча с Шермазянц».

Однокоренных фамилий в армянской ономастике немного. Можно встретить вариант Шермазян (с более привычным суффиксом) или Шермазарян, где к основе добавлен другой патронимический суффикс. Но Шермазянц — это архаичная, редкая форма, которая сохранила память о родовой принадлежности и, возможно, о конкретном предке, которого за его седину прозвали Шермазом.