Фамилия Петоев — редкий случай, когда основа не лежит на поверхности, а суффикс указывает на неочевидную географию. В отличие от привычных русских фамилий на -ов, образованных от полных форм имени (Петров, Иванов), Петоев происходит от прозвища или имени, которое сократилось до основы «Петой».

Разбираем модель: корень «Пет-» (от канонического имени Пётр) и редкий суффикс «-ой», который в русских фамилиях почти не встречается как самостоятельная основа. Исключение — фамилии типа Толстой, где «-ой» — это окончание прилагательного. В случае Петоев перед нами, скорее всего, усечённая форма имени Пётр с добавлением «-ой» как прозвищного суффикса: «Петой» означало «принадлежащий Петру», «Петин», но в диалектной форме. В некоторых говорах, особенно на северо-западе и в Сибири, существовала модель прозвищ на -ой: Петой, Ваней, Степой — как ласкательно-свойские обращения.

Таким образом, фамилия Петоев — это «сын Петого», то есть потомок человека, которого в быту звали Петой. В русской ономастике такая модель редка, но встречается в фамилиях, записанных в XIX веке в Пермской и Вятской губерниях, где переселенцы из северных областей сохраняли архаичные формы прозвищ. Если искать аналоги, то ближе всего фамилии Косой, Толстой, но они — от прилагательных, а Петоев — от личного прозвища на базе имени.

Версия, что основа «Петой» могла быть тюркской или кавказской (например, осетинской), менее вероятна: в осетинском суффикс -ев типичен для русских по происхождению фамилий, а основа «Пет» не характерна для местных имен. Скорее всего, Петоевы — русские по происхождению, чьи предки жили в регионах с диалектным «ой» вместо «ий». Фамилия не массовая, но её носители встречаются в документах XIX века на Урале и в Сибири — там, где оседали старообрядцы и вольные крестьяне, сохранявшие старую речевую традицию.