Фамилия Матрой — редкая и нестандартная для русского уха. Её главная загадка — в окончании. В исконно русских фамилиях почти не встречается финаль «-ой» без предшествующего суффикса притяжательности (как в фамилиях Толстой, Блаженной — там это застывшая форма прилагательного). «Матрой» же выглядит как фамилия, записанная на слух, возможно, с иноязычным следом.

Логичнее всего предположить, что перед нами украинская или белорусская фамилия, возникшая из прозвища. В этих языках суффикс «-ой» встречается чаще (сравните украинские фамилии вроде Гнилой, Сухой). Основа «Матр-» с большой вероятностью восходит к диалектному или просторечному варианту имени Матрёна. Уменьшительные формы «Матра», «Матроня» давали прозвища, которые потом закреплялись за детьми. То есть Матрой — это «тот, кто относится к Матре» (сын или человек из семьи Матры). Ударение, скорее всего, падает на последний слог: Матрой.

Вторая, менее вероятная, но возможная версия — фамилия могла возникнуть у народов Кавказа или Закавказья, где встречаются фамилии на «-ой» (например, осетинские или армянские, адаптированные при записи в российских документах). В таком случае корень может быть не славянским и означать что-то совсем иное, но без дополнительных данных по региону бытования это остаётся догадкой.

В метрических книгах XIX века фамилия Матрой почти не встречается — это говорит о её локальном, возможно, хуторском происхождении. Вероятнее всего, носители фамилии — потомки крестьян или казаков из южнорусских или украинских губерний, где имя Матрёна было чрезвычайно популярно и давало множество производных форм. Фамилия сохранила живую, разговорную огласовку, не «облагороженную» стандартным суффиксом -ов или -ин, что и делает её такой редкой и характерной.