Фамилия Костьяева — один из тех случаев, когда при всей кажущейся прозрачности корня возникают вопросы. На первый взгляд, основа — «кость», но по законам русского словообразования от неё ожидалась бы фамилия Костев или Костин. Здесь же мы видим суффикс -яев, что наводит на мысль о другой, более конкретной основе.

Скорее всего, фамилия образована от прозвища или мирского имени Костяй. В старых русских говорах «костяй» — не просто «костлявый», а человек крепкого телосложения, широкоплечий, с заметной костью. Такое прозвище давали не за худобу, а за стать и физическую силу. Суффикс -яй в прозвищах был типичен для северных и центральных областей России (сравните: Ветряй, Гуляй, Бородяй). Позже от прозвища Костяй образовалась форма притяжательного прилагательного — «чей сын?» — Костьяев, то есть «сын Костяя».

Есть и вторая, менее вероятная версия: связь с диалектным словом «костяй» — так в некоторых регионах называли костяную пуговицу или мелкое изделие из кости. В этом случае родоначальник мог быть косторезом или торговцем галантереей. Однако первое объяснение — от прозвища по внешнему признаку — выглядит убедительнее, так как прозвища были распространены шире, чем ремесленные именования.

Фамилия редкая, её географическое ядро, судя по доступным данным, тяготеет к центральным и южным областям России, но точную карту расселения составить трудно из-за малочисленности носителей. Встречается и вариант написания с одной «я» — Костеев, что может указывать на разную диалектную передачу того же прозвища.

Интересно, что фамилия Костьяева не фиксируется в дворянских родословных книгах и не имеет аристократического происхождения. Это типичная крестьянская или посадская фамилия, возникшая в среде, где прозвище было основным идентификатором человека до введения обязательных фамилий в XIX веке.