Фамилия Терлоев напрямую связана с чеченским тейпом Терлой — древней родовой общностью, чьи представители веками жили на юге горной Чечни. В основе фамилии лежит прозвище Терлой, которое закрепилось за выходцем из этого тейпа, а его потомки со временем стали Терлоевыми.

Название тейпа восходит к топониму Терла — исторической области Терлой-мокх на левом берегу Аргуна. Слово Терлой, по всей вероятности, образовано от чеченского «тиера», что значит «верхний, высокогорный». Такое объяснение логично: земли тейпа располагались в верховьях реки, среди крутых склонов и башенных комплексов. Один из них, Кирды, считается исходной точкой рода.

Тейп Терлой некогда входил в число крупнейших в Чечне. С ним связаны предания об особом закрытом знании, которое не относилось к мусульманской традиции. Исследователи допускают, что Терлой могли быть кастой жрецов-огнепоклонников — гипотеза спорная, но она объясняет, почему вокруг этого рода сложился ореол тайны.

Словообразовательная модель проста: прозвище Терлой + русский патронимический суффикс -ев. Такой способ образования фамилий типичен для народов Северного Кавказа, где после вхождения в состав Российской империи родовые имена адаптировались к русской модели. Основателем рода Терлоевых, очевидно, стал человек, которого окружающие знали именно как Терлоя — по принадлежности к тейпу, а не по личному имени.