Фамилия Терняк — яркий пример того, как прозвище, данное по характеру или внешности, превратилось в родовое имя. В её основе лежит украинское или южнорусское слово «терняк» — так называли колючий кустарник, терновник, а также заросли тёрна. Человек с таким прозвищем мог получить его за колючий, неуживчивый нрав, за привычку «цепляться» к людям или, наоборот, за внешнюю схожесть: сутулость, худобу, склонность щуриться и «колоться» в разговоре. В диалектах слово «терняк» имело и переносное значение — «упрямец», «скряга».

Словообразовательная модель фамилии проста и прозрачна. Суффикс -як в украинской и польской ономастике — один из самых распространённых. Он образует фамилии от названий растений, животных, черт характера и профессий: Гончарняк, Дубняк, Лозняк. Терняк стоит в одном ряду с фамилиями Тернов, Терёхин, Тереньтьев, но отличается именно суффиксом, который указывает на юго-западное, украинское происхождение носителя. В центральной России такую фамилию почти не встретишь, а вот в Черниговской, Полтавской, Харьковской губерниях она была обычной.

Встречается и вторая, менее очевидная версия происхождения. В некоторых говорах «терняк» называли человека, который живёт на краю села, на «терне» — то есть на границе, на выселках. Тогда фамилия указывает не на характер, а на место жительства: «терняк» — тот, кто поселился у терновых кустов или за околицей. Эта версия правдоподобна, но уступает первой по частоте: прозвища по характеру всегда давались охотнее, чем по месту.

Фамилия не получила широкого распространения за пределами Украины и южных областей России. В дореволюционных метрических книгах Терняки встречаются среди казаков и крестьян, реже — среди мещан. Дворянских родов с такой фамилией не зафиксировано. В советское время носители фамилии расселились по всей стране, но её концентрация по-прежнему выше всего на востоке Украины и в Краснодарском крае.