Фамилия Костяйкина — женская форма мужской фамилии Костяйкин. Её основа — прозвище или нецерковное имя Костяйка. В русской ономастике это редкий случай, когда в основе лежит не просто имя Костя (от Константин), а экспрессивная форма с суффиксом -яй- (-ай-). Такие суффиксы (ср. Ветряй, Гуляй, Молчун) в древнерусских прозвищах придавали слову оттенок просторечия, иногда пренебрежения или шутливости. Костяйка — это не «маленький Костя» (для этого использовали бы суффикс -к-: Костька, Костюшка), а скорее «Костя, который ведёт себя несерьёзно» или «Костя, которого так дразнят».

Фамилия образована по стандартной русской модели: к прозвищу Костяйка добавили притяжательный суффикс -ин-, который указывал на принадлежность: «чей сын?» — Костяйкин. В XVI–XVII веках так называли детей или внуков человека по прозвищу Костяйка. В документах фамилия не встречается в ранних боярских или дворянских списках, что говорит о её крестьянском или посадском происхождении. Скорее всего, предки Костяйкиных жили в северных или центральных губерниях России, где была распространена модель фамилий на -ин от имён на -а/-я.

Интересно, что фамилия Костяйкина сохранила архаичную фонетику: ударение, скорее всего, падает на второй слог — Костя́йкина. Если бы основа была Костяйка (с ударением на «я»), то в разговорной речи фамилия могла бы редуцироваться до Костя́кина, но этого не произошло. По словарю Б. Унбегауна «Русские фамилии», суффикс -яй- в прозвищах — редкий, и фамилии на -яйкин встречаются единично (например, Гуляйкин, Молчункин). Так что Костяйкина — не просто вариант фамилии Костин или Константинов, а отдельная, более редкая ветвь, которая может указывать на конкретную местную традицию именования в каком-то одном уезде.

Никаких известных исторических личностей с этой фамилией в широких источниках не зафиксировано, что подтверждает её народное, недворянское происхождение. Сегодня фамилия встречается преимущественно в Поволжье и на Урале — регионах, куда в XVIII–XIX веках переселялись крестьяне из центральных губерний. Если вы носите эту фамилию, ваши предки, вероятно, были государственными или помещичьими крестьянами, а прозвище Костяйка могло закрепиться за первым известным в роду человеком по имени Константин.