Фамилия Машей — редкий пример, где окончание «-ей» работает не как типичный суффикс, а как часть основы, попавшая в фамилию из звательного падежа в белорусском или украинском языке. В русских фамилиях чаще встречается окончание «-ей» в формах вроде «Ковалей» (от «коваль»), но здесь механизм иной. Основа — имя Маша, уменьшительная форма от Мария. В белорусском и украинском быту обращение «Машей» (звательный падеж: «Ой, Машей!») могло закрепиться как прозвище или уличное имя человека, а затем перейти в фамилию без изменений. Такая модель — фиксация обращения — характерна для западнорусских земель, особенно для Гродненской, Минской и Волынской губерний.

Фамилия могла возникнуть и по другой, более простой схеме: от прозвища Машей, которое давали человеку, чем-то напоминавшему женщину по имени Маша — возможно, мягкостью характера, любовью к порядку или даже по внешнему сходству. Но первая версия — с застывшим звательным падежом — выглядит убедительнее, потому что объясняет нестандартное окончание, которое редко встречается в русских фамилиях на «-ов» или «-ин».

Суффикса «-ей» в фамилии Машей нет, как нет и патронимического суффикса (типичного «-ович» или «-ин»). Это так называемая «материнская» фамилия в широком смысле: она образована от женского имени, но не через суффикс принадлежности, а через форму обращения. Такие случаи единичны и всегда привязаны к конкретному говору и быту. В сословном отношении носители фамилии Машей, скорее всего, относились к крестьянству или мещанству — в дворянской среде подобные модели почти не встречались.

Однокоренные фамилии — Машин, Машев, Машков — построены стандартно, через суффиксы «-ин» и «-ов». Машей стоит особняком: её уникальность в том, что она сохранила живую интонацию обращения, а не грамматическую форму родительного падежа. Если ваши предки носили эту фамилию, они, вероятно, жили в западной части Российской империи, где белорусское или украинское произношение влияло на запись фамилий в метриках.