Фамилия Терхоев — редкая и территориально привязанная. Её основа — не имя и не профессия, а этноним, то есть название народа или родовой группы. Носители фамилии — почти исключительно чеченцы и ингуши, и ключ к разгадке лежит в чеченском языке.

Корень «Терхой» восходит к названию одного из чеченских тейпов (родов) — Терлой. Тейп Терлой исторически населял высокогорный Итум-Калинский район Чечни, в ущелье реки Терлой-Ахк. Чередование «р» и «х» в корне (Терлой → Терхой) — не ошибка, а следствие фонетических процессов при переходе в русское написание: звук, близкий к гортанному «р», передавался по-разному. Таким образом, Терхоев — это «выходец из тейпа Терлой» или «потомок терлойца».

Суффикс «-ев» в фамилии — типичный русский патронимический формант, который добавили при оформлении фамилий в документах Российской империи. У самих чеченцев и ингушей фамилии часто оканчиваются на «-ой» (Терлой), но при записи в метрики и ревизские сказки их русифицировали по модели «Терлой → Терхоев». Аналогично образованы фамилии Албаков (от Албакой), Эльмурзаев (от Эльмурза) и другие.

Встречается вариант Терхоев — с буквой «р» в корне, что ближе к исходному произношению. Такая вариативность характерна для фамилий северокавказского происхождения, записанных на слух разными писарями.

Носители фамилии Терхоев — это, как правило, потомки членов тейпа Терлой, одного из древних и уважаемых в горах Чечни. Тейп славился воинскими традициями и замковыми комплексами, в частности башнями в ущелье Терлой-Ахк. Поэтому предки человека с фамилией Терхоев были, скорее всего, горцами-скотоводами или воинами, жившими в родовом гнезде. Фамилия не имеет отношения к русскому слову «терх» (которого в языке нет) или каким-либо тюркским корням — это чисто кавказский этноним, перешедший в фамилию.