Фамилия Тернавой — редкий случай, когда ударение и окончание сразу выдают украинское или южнорусское происхождение. В русском литературном языке фамилии на -ой встречаются, но обычно это прилагательные в полной форме (Толстой, Благой). Тернавой — иного рода: окончание -ой здесь стоит под ударением, и фамилия образована не от прилагательного, а от прозвища или топонима через суффиксальную модель, характерную для украинской ономастики.

Корень «терн» отсылает к колючему кустарнику — тёрну, или терновнику. В славянской традиции терн символизировал трудность, защиту, а в быту — непроходимые заросли. Прозвище Тернавой могли дать человеку колючему, неуживчивому, либо тому, кто жил у терновых кустов или занимался их выкорчёвкой. Вторая версия: фамилия происходит от названия населённого пункта — на Украине и юге России немало сёл с корнем «Терн» (Терновка, Терновое). Переселенцы из таких мест нередко получали фамилию по названию родного села: Тернавой, то есть «выходец из Тернового».

Словообразовательный разбор подтверждает украинский след. В русских фамилиях суффикс -ов-/-ев- обычно даёт окончание -ов (Тернов), а здесь — -ой, что типично для украинской модели притяжательных прилагательных: Тернавой буквально значит «терновый, относящийся к терну». Фамилия Тернов в России встречается часто, а Тернавой — её более редкий, диалектный вариант, сохранивший старую форму.

В сословном отношении носители фамилии Тернавой, скорее всего, относились к крестьянству или казачеству — особенно в Черниговской, Полтавской, Харьковской губерниях, где украинские фамилии на -ой были распространены. Встречается она и у донских казаков, что объясняется переселением малороссов на Дон. Дворянских родов с такой фамилией в официальных родословных книгах не зафиксировано.

Искать корни стоит в южных регионах России и восточной Украине. Если в роду сохранилось предание о связи с терновыми зарослями или конкретным селом — это, скорее всего, и есть ключ к происхождению фамилии.