Фамилия Мустивой — редкая и неочевидная. Её происхождение нужно искать не в русском, а в финно-угорском языковом слое, что сразу выделяет её на фоне типичных славянских фамилий. Скорее всего, перед нами не русская по основе, а прибалтийско-финская или карельская фамилия, адаптированная русским окончанием.

Разбираем по частям. Первая часть «мусти» — это основа, которая прямо указывает на прилагательное «чёрный» в финском (musta) или карельском (mustu) языках. Вторая часть «вой» — может быть искажённым финским «poika» (парень, сын) или карельским «voi» (масло, но в прозвищах нередко использовалось как часть сложного слова). Однако самая вероятная версия: «Мустивой» — это русифицированная форма от финской фамилии Mustapää (чёрная голова) или Mustonen (чернявый). В русском произношении сложные финские окончания часто редуцировались до простого «-ой», которое затем осмыслилось как русское притяжательное окончание.

Модель образования здесь необычная. Если бы фамилия была исконно русской, мы бы видели суффикс «-ов» или «-ин». Вместо этого перед нами застывшая основа, к которой добавили русское окончание прилагательного «-ой». Так часто происходило в северных регионах, где русские переселенцы записывали местных карел, вепсов или ижор на слух, не вникая в грамматику исходного языка. Фамилия могла закрепиться в Олонецкой, Архангельской губерниях или в бывшем Великом княжестве Финляндском.

Прозвище, лёгшее в основу, могло относиться к внешности: человек с очень тёмными волосами или смуглой кожей («чёрный парень»). В финской ономастике прозвища по цвету волос — одни из самых древних и частых. Не исключён и более прозаичный вариант: «мусти» могло быть прозвищем по имени домашнего животного (чёрная собака или конь), которое затем перешло на хозяина.

Сравните с однокоренными фамилиями: Мустаев, Мустайнен, Мустафин (последнее — уже тюркское, от арабского «Мустафа»). Мустивой стоит особняком — в ней нет ни тюркского, ни славянского корня, она чисто финская по основе, но русская по оформлению. Это говорит о том, что предки носителя фамилии жили на стыке культур, в зоне активного русско-финского контакта, вероятно, в Карелии или на Кольском полуострове.

Сословная принадлежность предков остаётся под вопросом. Финские и карельские крестьяне, получившие фамилии поздно, часто не имели документов, где фиксировалось бы дворянство или купечество. Скорее всего, это фамилия крестьянского или мещанского корня, но её редкость говорит о том, что род был немногочисленным и географически замкнутым.