Фамилия Костевая — яркий пример того, как прозвище, данное по внешности или характеру, стало родовым именем, закрепившись в женской форме. Исходное слово — «костевой» или «костлявый». Так в старину называли худого, высокого, угловатого человека, у которого, как говорили, «кожа да кости». Прозвище было метким и ёмким, поэтому легко приживалось в крестьянской среде, где внешность часто становилась основой для фамильного прозвания.

Словообразовательная модель здесь необычна для русских фамилий. Суффикс -ев-, присоединённый к основе «кост-», образует притяжательное прилагательное («чей?» — Костевой). Но окончание -ая указывает на то, что перед нами форма женского рода. В русской традиции фамилии на -ой/-ая (например, Толстой, Кривой) чаще всего закреплялись за целым родом в южнорусских и украинских говорах. Костевая — это не «жена Костева», а исходная форма фамилии, которая могла принадлежать как мужчине, так и женщине, и передавалась по мужской линии без изменения. Встречается она преимущественно в тех регионах, где была распространена такая модель: на юге России, в Белгородской, Воронежской, Ростовской областях, а также на Украине.

Менее вероятная, но возможная версия связывает фамилию с ремеслом. «Костевая» могла быть прозвищем резчика по кости — мастера, который делал гребни, пуговицы, рукоятки ножей. Однако эта гипотеза уступает первой по частотности: в русских говорах слово «костевой» в значении «костяной» почти не фиксируется, а вот прозвище по худобе — явление повсеместное.

Сравнение с однокоренными фамилиями (Костов, Костев, Костин, Костяев) показывает, что Костевая стоит особняком. У неё нет патронимического суффикса -ин или -ов, который указывал бы на отчество. Это прямое прозвище, превращённое в фамилию, — архаичный тип, который реже встречается в официальных документах, но зато лучше сохраняет живой язык предков.