Фамилия Черменцев — одна из тех, что ставит перед исследователем ребус. На первый взгляд кажется, что в её основе лежит имя или прозвище Чермен. Но такого имени в русских святцах нет, а прозвище Чермен не зафиксировано в источниках. Это наводит на мысль, что корень фамилии — не славянский, а иноязычный, искать его стоит в тюркских или кавказских языках.

Скорее всего, исходное слово — «чермен», которое в ряде тюркских наречий означает «пегий», «пёстрый», «рябой». Такое прозвище могли дать человеку с необычным цветом волос или кожи, например, со светлыми пятнами на смуглом лице. В осетинском языке слово «чермен» имеет значение «смуглый», «тёмный», что также могло лечь в основу прозвища. Таким образом, предок Черменцевых, вероятно, был выходцем из тюркской или кавказской среды, получившим на Руси прозвище Чермен — по характерной внешности.

Модель образования фамилии стандартна для русской ономастики: суффикс -ев присоединился к основе Черменец. Форма на -ец (Черменец) — это либо уменьшительно-ласкательный вариант прозвища (Чермен → Черменец), либо указание на принадлежность к определённой местности или роду. В русских говорах суффикс -ец часто обозначал выходца из какой-то группы: «черменец» могло означать «сын или потомок Чермена». В итоге фамилия Черменцев дословно значит «принадлежащий Черменцу», то есть потомок человека по прозвищу Чермен.

География фамилии тоже показательна. Черменцевы встречаются в регионах, где исторически был силён контакт славян с тюркскими и кавказскими народами: в Оренбургской, Самарской, Саратовской областях, а также на Урале и в Сибири. Это подтверждает версию о происхождении прозвища из языков соседних этносов. Встречаются и варианты написания — Черменцов, Черминцев, но основная форма на -ев сохранилась именно в Черменцевых.

В отличие от многих фамилий, образованных от христианских имён, Черменцев не имеет параллелей в церковном календаре. Это редкий случай, когда прозвище, скорее всего, пришло из устной традиции межэтнического общения, а не из книжной культуры.