Фамилия Костяева образована от личного имени или прозвища Костяй. В основе, скорее всего, лежит народно-разговорная форма канонического имени Константин (от лат. constans — «стойкий, постоянный»). Уменьшительные варианты вроде Костяй, Костюк, Костарь были обычны в русской среде, и фамилия на -ев закрепила именно такую форму: Костяй → сын Костяя → Костяев.

Но есть и другая версия, не менее правдоподобная. В говорах «костяй» могли прозвать очень худого, измождённого человека — буквально «кожа да кости». Такие прозвища по внешнему виду давались не в обиду, а как оберег: родители надеялись, что назвав сына Костяем, они «обманут» нечистую силу, и мальчик вырастет здоровым и крепким. Этот обычай — называть детей «плохими» именами для защиты от сглаза — хорошо известен в русской традиции.

Фамилия Костяева встречается в основном в центральных и северных областях России, что типично для фамилий на -ев, образованных от прозвищ с основой на -ай. По модели образования она близка к фамилиям Рябцев, Глазачев, Беляев — все они фиксируют прозвище, данное по характерному признаку.