Фамилия Костаева — женская форма фамилии Костаев, и её разбор стоит начать с мужского варианта, поскольку именно он хранит ключ к происхождению. В основе фамилии лежит личное имя или прозвище Костай. Это имя, скорее всего, является производной формой от крестильного имени Константин (от лат. constans — «стойкий, постоянный»). В русской народной традиции полные имена часто сокращали и переделывали: Константин превращался в Косту, а от него — в уменьшительно-ласкательное Костай. По этой же модели из имени Константин возникли фамилии Костарев, Костин, Костылев.

Фамилия образована с помощью типичного русского патронимического суффикса -ев, который присоединяли к основам, оканчивающимся на -й (Костай → Костаев). Буквально фамилия означает «сын Костая» или «потомок Костая». Такая модель распространена по всей России, но особенно характерна для южных и центральных областей.

Впрочем, есть и другая, менее очевидная версия. В некоторых тюркских языках (например, в карачаево-балкарском) слово «костай» или близкое к нему могло означать «гость» или «чужак». Если предки носителя фамилии жили в районах активного русско-тюркского пограничья, прозвище Костай могли дать пришлому человеку. Но эта гипотеза уступает первой по распространённости: подавляющее большинство русских фамилий на -ев восходит именно к календарным именам, а не к заимствованным прозвищам.

Географически фамилия Костаев встречается нечасто. Основные очаги — Поволжье и некоторые регионы Северного Кавказа, где русское население исторически соседствовало с горскими народами. В этих местах фамилия могла закрепиться и как русифицированная форма местного имени, но для окончательного вывода не хватает массовых статистических данных.

Таким образом, с большой долей уверенности можно сказать: предки современных Костаевых — люди, которых в быту звали Костаем, то есть Константином. Фамилия не указывает на конкретное ремесло или сословие — она чисто родового типа, и её носители могли быть и крестьянами, и мещанами, и служилыми людьми.