Фамилия Костыхина — это женская форма, а мужская, соответственно, Костыхин. Разберём, как она образовалась и что означает.

Словообразовательная модель здесь прозрачна: суффикс -ин указывает на принадлежность. В русских фамилиях этот суффикс чаще всего присоединяли к основе, оканчивающейся на -а или -я. Значит, в основе лежало личное имя или прозвище Костыха. Это неполная форма от канонического имени Константин (в просторечии — Костя). Суффикс -ых- (-их-) в данном случае не родовой (как в фамилиях типа Коротких), а скорее уменьшительно-пренебрежительный или просто разговорный. Подобные формы в русских говорах встречались: Костыха, Микита, Петруха. То есть Костыхин — буквально «сын Костихи», то есть потомок человека, которого в быту звали Костыхой.

Географически фамилия Костыхин (и Костыхина) довольно редкая. Основной ареал — центральные и северные области России: Вологодская, Архангельская, отчасти Ярославская и Костромская. В этих краях форма на -ыха/-иха в прозвищах была особенно распространена. Встречается фамилия и на Урале, куда переселенцы принесли её в XVII–XVIII веках.

Если заглянуть глубже, возможен и другой, менее очевидный вариант происхождения. В некоторых говорах слово «костыха» могло означать не только человека по имени, но и нечто, связанное с костью: костлявого, худого человека, либо того, кто занимался костяным промыслом (например, резьбой или изготовлением гребней). Однако это лишь гипотеза, и более вероятным остаётся связь с именем Константин.

Таким образом, предки носительниц фамилии Костыхина — скорее всего, крестьяне или посадские люди из северной России, которых в обиходе звали Костыхами. Фамилия закрепилась за родом примерно в XVI–XVII веках, когда окончательно оформилась русская фамильная система.