Фамилия Хутоной — редкий случай, когда в основе лежит не имя и не профессия, а географический термин, причем в необычной грамматической форме. В отличие от привычных Хуторов, Хуторских или Хуторянских, здесь мы видим окончание -ой, которое в русских фамилиях чаще встречается у прилагательных (Толстой, Кривой, Благой). Это сразу наводит на мысль, что перед нами форма прилагательного, отвечающая на вопрос «какой?» — хутоной, то есть «относящийся к хутору», «хуторской».

Само слово «хутор» в русском языке обозначает отдельное крестьянское хозяйство, выселок из основной деревни. Фамилия могла закрепиться за человеком, который жил на хуторе или владел им. Но есть и более конкретная версия: в говорах южнорусских областей (особенно на Дону, Кубани, в бывших черноземных губерниях) «хутоной» могли называть не просто жителя, а пришлого, обособленного крестьянина, который отделился от общины. То есть прозвище могло нести оттенок «отдельный», «самостоятельный», а иногда и «чужак» — в зависимости от контекста.

Словообразовательная модель здесь необычна. Суффикс -ой в фамилиях — явление архаичное. В большинстве случаев русские фамилии образуются через суффиксы -ов/-ев (Хуторов) или -ский (Хуторской). Форма с -ой указывает на то, что прозвище застыло в виде краткого прилагательного мужского рода: «он хутоной» — так же, как «он толстой» (толстый) или «он рябой». Это характерно для фамилий, которые сложились в XVI–XVII веках в среде служилых людей и казачества, где прозвища часто давались по месту жительства в такой сжатой форме.

Географически фамилия тяготеет к югу России и Украине. В ревизских сказках и метрических книгах XIX века Хутоной встречается преимущественно в Области Войска Донского и в слободских полках (нынешние Харьковская, Воронежская области). Там хуторское хозяйство было основой экономики, и прозвище «хутоной» было понятно каждому. Носители фамилии, скорее всего, были казаками или государственными крестьянами, жившими на отшибе.

Можно предположить, что фамилия не имеет никакого отношения к тюркским или кавказским корням, как это бывает с другими редкими фамилиями. Чисто славянская основа, прозрачная для носителя языка, и нестандартная грамматическая форма делают её интересным примером того, как местное слово и диалектная особенность могут стать наследственным именем.