Фамилия Костенева — женская форма мужской фамилии Костенев, и чтобы понять её происхождение, нужно разобраться с основой. В центре внимания здесь не имя, а прозвище или мирское имя Костень. Это слово образовано от глагола «костенеть» — то есть становиться твёрдым, застывать, как кость. В прямом смысле так могли назвать человека медлительного, неповоротливого или, наоборот, несгибаемого, упрямого. В старину такие прозвища не несли оскорбления — они описывали заметную черту характера или поведения.

Суффикс -ев указывает на принадлежность: Костенев — сын Костеня. Модель типична для русских фамилий, образованных от прозвищ с основой на мягкий согласный. Важно не путать с фамилией Костин, которая восходит к уменьшительному от имени Константин. Костень — слово самостоятельное, не календарное, и в дореволюционных документах встречается как нецерковное имя. Например, в актах XV–XVI веков упоминаются крестьяне с прозвищем Костень, что подтверждает реальность такой основы.

Есть и другая, менее вероятная версия: связь с географическим названием Костенёво. Такие деревни встречаются в Тверской, Ярославской и Вологодской областях. Тогда фамилия могла возникнуть у человека, переехавшего из этого села и записанного как «Костеневский», а затем упростившегося до Костенев. Но против этого говорит суффикс -ев: для топонимических фамилий типичнее -ский, поэтому версия с прозвищем остаётся основной.

В бытовом плане носители фамилии Костенева в XIX веке чаще всего были крестьянами центральной России — из районов, где говор на «о» сохранял полногласие. Встречаются упоминания в переписных книгах Воронежской и Рязанской губерний. Сословная принадлежность — в основном крестьянство и мещанство, дворянских родов с такой фамилией не зафиксировано. Если искать однокоренные фамилии, то Костенев стоит в одном ряду с Костюковым, Костеревым — все они от глагольных прозвищ, описывающих действие или состояние.