Фамилия Елхоев образована по стандартной русской модели с суффиксом -ев, который присоединяется к основе, оканчивающейся на согласный или йот. В данном случае основа — Елхой. Это прозвище или дохристианское имя, которое в основе имеет слово «елха» — так в южных и западных говорах называли ольху (сравните украинское «вільха», белорусское «альха»). Таким образом, прозвище Елхой мог получить человек, живший у ольховой рощи, либо занимавшийся заготовкой или обработкой ольховой древесины — легкой, но устойчивой к гниению в воде, ценившейся в бондарстве и строительстве срубов колодцев.

Словообразовательная модель типична для фамилий, возникших из прозвищ на -ой: Кривой → Кривоев, Глухой → Глухоев, Толстой → Толстоев. Важно, что суффикс -ев, а не -ов, указывает на мягкость или шипящий/йот в конце основы: Елхоев, а не Елхов. Фамилия Елхов тоже существует, но она образована напрямую от слова «елха» без прозвищного суффикса — по принципу «чей сын?» (Елхов сын). Елхоев же фиксирует именно форму личного имени или прозвища Елхой.

Встречается фамилия преимущественно в регионах, где ольху называли «елхой» — это южнорусские области (Курская, Орловская, Тамбовская, Рязанская), а также среди украинского и белорусского населения. В XIX веке носители фамилии записаны в основном среди крестьян и однодворцев, что подтверждает народное, а не искусственное происхождение. Дворянских родов с такой фамилией в гербовниках не значится.

Некоторые исследователи допускают версию происхождения от тюркского корня (сравните казахское «ел» — народ, страна), но это маловероятно: суффиксальная модель -ев с твердой основой для тюркских заимствований нехарактерна, а географическое распространение фамилии указывает на славянскую языковую среду. Так что основная и самая правдоподобная версия — ольха, давшая прозвище, а затем и фамилию.