Фамилия Тертюхов — один из тех случаев, когда за привычным суффиксом -ов скрывается неочевидная основа. Вопреки ожиданиям, её корень не связан с «тереть» или «тёрка». В основе лежит прозвище Тертюх, а оно, скорее всего, восходит к диалектному глаголу «тертюхать» — в русских говорах это означало «медленно делать, копаться, возиться». Человека, который всё делал не спеша, с ленцой или излишней обстоятельностью, могли прозвать Тертюхом. Суффикс -юх- в прозвищах типичен для северных и северо-западных говоров: он придаёт слову оттенок пренебрежения или фамильярности (сравните: «толстюх», «злюха»).

Словообразовательная модель проста: прозвище Тертюх + патронимический суффикс -ов, то есть «сын Тертюха». Фамилия фиксируется в писцовых книгах и ревизских сказках XVI–XVII веков преимущественно на территории бывшего Новгородского уезда и в соседних областях — там, где диалектная лексика сохраняла такие формы. Встречаются варианты написания Терюхов и Тертюхов — путаница возникла из-за редукции гласных в живой речи: «Тертюх» на слух мог записываться как «Терюх».

Есть и вторая, менее вероятная версия: от тюркского имени Тертек (Тертик) — в некоторых тюркских языках это слово означает «упрямый» или «непослушный». Но для фамилии с русским суффиксом -юх- и ареалом бытования эта гипотеза выглядит натянутой. Скорее всего, перед нами чисто восточнославянское прозвище по характеру, которое со временем закрепилось как фамилия.

В сословном отношении Тертюховы — в основном крестьяне и посадские люди. Дворянских родов с такой фамилией не зафиксировано, что тоже косвенно подтверждает её «низовое» происхождение от бытового прозвища.