Фамилия Тергубаев — редкий случай, где исходное прозвище почти наверняка связано с конкретным местом, а не с личным качеством или профессией. Её основа — топоним Тергуба, название деревни на севере России, в Карелии. Это старинное поселение на берегу Онежского озера, известное с XVI века. Жителей таких деревень часто называли по месту жительства: «тергубанец», «тергубаев» — то есть выходец из Тергубы. Суффикс -ев указывает на патронимическую модель: «сын тергубаевца» или «сын того, кто из Тергубы».

Само название Тергуба сложное. Первая часть, «тер», восходит к саамскому или финно-угорскому корню со значением «тёрка», «точило», «острый камень». Вторая часть — «губа» в северорусских говорах означает не только залив, но и округу, административную единицу. Так что Тергуба — это, вероятно, «каменистая губа» или «губа у точильного камня». Местность там скалистая, с выходами гранита, что подтверждает эту версию.

Модель образования фамилии — оттопонимическая, характерная для северных и архангельских фамилий, где люди часто получали прозвища по названию деревни или погоста. В отличие от массовых фамилий на -ов/-ев от крестильных имён, Тергубаев — продукт географической привязки. Носители такой фамилии почти наверняка происходят из крестьянского или рыбацкого сословия Олонецкой губернии или Поморья.

Встречается фамилия крайне редко, преимущественно в Карелии и Архангельской области. Встречаются варианты написания Тергубаев и Тергубаев (с ударением на второй слог), но оба восходят к одному корню. Никакой связи с тюркскими или кавказскими языками здесь нет, несмотря на непривычное для русского уха звучание — это чистый севернорусский топоним.