Фамилия Хамаян — редкий случай в русском ономастиконе, и её происхождение почти наверняка не связано с русским языком напрямую. Если вы ищете корни этой фамилии, первый и главный вопрос — география: скорее всего, ваши предки были носителями армянского языка. В армянском суффикс -ян (а в диалектах и -янц) — это классический патронимический показатель, означающий «принадлежащий к роду такого-то» или «сын такого-то». Фамилия Хамаян, таким образом, образована от личного имени или прозвища Хамай (или Хамо).

Разбираем основу. Имя Хамай — это краткая, народная форма от армянского имени Амазасп или Хамазасп, которое восходит к древнеперсидскому «хамазаспа» — «имеющий коней (или боевых коней) вместе». В армянской среде такие сокращения были обычны: длинное имя укорачивали до двух-трёх слогов, а затем добавляли фамильный суффикс. Есть и более простая версия: Хамай могло быть прозвищем, связанным с армянским словом «хам» (сырой, незрелый) или диалектным «хама» (вместе, сообща), но патронимическая модель с -ян указывает всё же на личное имя как на первоисточник.

Написание фамилии — Хамаян, а не Хамайян — типично для русифицированной передачи армянских фамилий: двойная «й» на стыке корня и суффикса обычно стягивается. В самой Армении фамилия могла бы писаться как Համայան (Hamayan). Встречается она нечасто, но её носители рассеяны по России, Армении и странам бывшего СССР, куда армяне переселялись в XIX–XX веках.

Словообразовательная модель проста: корень Хама- (от имени) + суффикс -ян. Никаких русских суффиксов (-ов, -ин) здесь нет, поэтому фамилия не вписывается в привычную для восточных славян схему «прозвище + владельческий суффикс». Это чистый пример армянской родовой фамилии, которая закрепилась в документах в том виде, в каком её записал русский чиновник или переписчик. Если ваши предки жили на Кавказе или в южных губерниях Российской империи, где были армянские общины, версия с армянскими корнями становится почти бесспорной.