Фамилия Тертых — редкий пример «застывшей» формы родительного или предложного падежа множественного числа. Она относится к группе фамилий на -их/-ых, которые в русской традиции закрепились за жителями северных и центральных областей России, особенно в Вологодской, Архангельской, Костромской губерниях. Такие фамилии (Тертых, Чутких, Долгих, Седых) не склоняются по падежам, потому что сами по себе уже являются падежной формой.

Основа фамилии — прилагательное тёртый. В прямом значении «тёртый» — измельчённый трением. Но в прозвищах и фамилиях слово почти всегда имело переносный смысл. В русских говорах «тёртый» означало «бывалый, опытный, много повидавший человек». Отсюда устойчивое выражение «тёртый калач» — человек, которого трудно обмануть, себе на уме. Предка, носившего прозвище Тёртый, могли так назвать за житейскую мудрость, хитрость или долгую жизнь, полную скитаний.

Морфологически фамилия образована по продуктивной модели: основа прилагательного + окончание -ых (указание на принадлежность к роду, семье). Фамилии на -их/-ых часто возникали как ответ на вопрос «чьи вы?» — «Тертых», то есть люди из семьи Тёртого. В отличие от фамилий на -ов/-ев, которые указывали на одного конкретного предка, эта форма подчёркивает коллективную принадлежность: весь род, все Тёртые.

Встречаются однокоренные фамилии с другим оформлением: Тертов, Тертышный, Тертышников. Но Тертых стоит особняком — она сохранила архаичную грамматическую конструкцию, которая в современном языке уже не работает как обычное прилагательное. По переписям XIX — начала XX века фамилия встречалась в Вятской, Пермской и Вологодской губерниях, что подтверждает её севернорусское происхождение.

Версия о связи с глаголом тереть в значении «натирать, теснить» (то есть прозвище могло относиться к человеку, который «трёт», досаждает) менее вероятна: в ономастике переносные значения, связанные с характером и опытом, встречаются чаще, чем бытовые действия. Поэтому основное значение фамилии Тертых — «принадлежащие к роду бывалого, тёртого человека».