Фамилия Барханоев — редкий случай в русском ономастиконе, где за основу взято не имя и не профессия, а, скорее всего, прозвище, связанное с тканью. Правдоподобнее всего, что в основе лежит слово «бархан» — так в старину называли не только песчаные холмы, но и плотную шерстяную ткань (от нем. Barchent или фр. baracan). Человек, торговавший барханом или носивший одежду из этой материи, мог получить прозвище Бархан. Суффикс -оев указывает на модель образования русских фамилий от прозвищ на твёрдый согласный: Бархан → Барханов, а форма Барханоев — диалектный или фонетический вариант, где под влиянием аканья или местного говора «ов» превратилось в «оев». Такое написание характерно для южнорусских областей.

Менее вероятная, но возможная версия — связь с тюркским словом «бархан» в значении «песчаная гряда». В этом случае фамилия могла закрепиться за переселенцем из степных регионов, которого прозвали по месту жительства или по внешней особенности (например, «сухой, как бархан»). Однако для тюркских фамилий типичны окончания -ов/-ев, а не -оев, что делает ткацкую версию более убедительной для русского уха.

Словообразовательно фамилия стоит в ряду с более привычными Барханов, Бархатов (от «бархат»). Но Барханоев — архаичная форма, сохранившая старую модель, когда суффикс присоединялся к основе без смягчения конечного согласного. В современных списках фамилия встречается крайне редко, в основном в документах XIX века по Курской и Воронежской губерниям, что косвенно подтверждает её южнорусское происхождение. Сословной принадлежности предков по фамилии не установить: прозвище Бархан мог получить как купец, торговавший сукном, так и крестьянин, носивший кафтан из бархана.