Фамилия Костышына — женская форма фамилии Костышин, которая образована по классической для русского севера модели. Если присмотреться к суффиксу, бросается в глаза нестандартное окончание: не «Костышев» и не «Костышин» (с одним «ш»), а именно «Костышин» с твёрдым «ы» после «ш». Такое написание — верный признак того, что фамилия возникла не в центральной России, а в регионах, где цокали или якали, либо где в бытовой речи закрепилась форма с «ы» под ударением: Косты́ш, а не Ко́стыш.

Основа фамилии — прозвище Костыш. В русских говорах «костыш» — это уменьшительное от «костыль»: либо деревянная палка для хромого, либо, в более широком смысле, человек, который ходит с трудом, прихрамывает. Но есть и другая, менее очевидная версия: в некоторых диалектах «костыш» называли задиристого, неуступчивого человека — того, кто «костыляется», то есть упрямится, спорит. Оба значения вполне могли стать основой для прозвища, которое затем закрепилось за родом.

С точки зрения словообразования, суффикс «-ин» указывает на принадлежность: Костышин — это «сын Костыша». Такая модель типична для русских фамилий, но в паре с редкой основой она делает фамилию локально привязанной. Поиск по открытым данным показывает, что носители фамилии Костышин (и, соответственно, Костышына) встречаются в основном в Вологодской и Архангельской областях, а также в Пермском крае. Это подтверждает северное происхождение: именно там сохранились архаичные прозвища и диалектные формы, которые в центральных губерниях вытеснились более привычными вариантами вроде Костылев или Костылёв.

В дореволюционной России фамилия не была дворянской или купеческой — скорее всего, предки носителей были крестьянами или ремесленниками. В метрических книгах XIX века Костышины встречаются среди государственных крестьян, а в советское время фамилия не исчезла, но осталась малочисленной. Сегодня её можно встретить редко, что делает её своеобразным маркером: если вы Костышына, ваши корни почти наверняка ведут в Русский Север, к человеку, которого когда-то прозвали за хромоту или упрямство.