Фамилия Костомахина — женская форма фамилии Костомахин. Её основа — прозвище или нецерковное имя Костомаха. Слово это составное: первая часть, «кост-», восходит к слову «кость», вторая, «-маха», — к глаголу «махать» или существительному «маха» (в диалектах — «размах», «взмах», а также «суета» или «бестолковщина»). Прозвище Костомаха могли дать человеку за характерную походку — размашистую, широкую, возможно, слегка неуклюжую, когда «костями машет». В русских говорах слово «костомаха» изредка фиксировали как насмешливое обозначение долговязого, худого человека с крупными суставами, который двигается резко и неловко. Есть и более прозаическая версия: в некоторых регионах «костомахой» называли костяную ложку или гребень, но прозвище от названия предмета маловероятно — обычно такие прозвища получали мастера, а не владельцы вещи.

Фамилия Костомахин (и её женский вариант) — типичная для северных и центральных областей России, где были распространены фамилии на -ихин, -ахин, -охин. Суффикс -ин указывает на принадлежность: Костомахин — сын Костомахи. Ономасты (в частности, по модели, описанной в работах Б. Унбегауна) относят такие фамилии к числу ранних, возникших в крестьянской и посадской среде, ещё до массового закрепления фамилий в XIX веке. В документах XVII–XVIII веков можно встретить крестьян Костомахиных в Вологодской и Костромской губерниях — это косвенно подтверждает северное происхождение прозвища.

У фамилии есть «двойники» с другим корнем: Костомаров (от «костомара» — обдирщик коры) или Костылев (от «костыль»). Костомахин стоит особняком — в ней нет профессионального или социального подтекста, только внешняя характеристика. В современной России фамилия редкая, встречается в основном в Поволжье и на Урале, куда переселялись крестьяне из северных губерний в XIX веке.