Фамилия Костышина образована по одной из самых распространённых в русской ономастике моделей: от прозвища или имени через притяжательный суффикс -ин. Суффикс указывает на принадлежность: Костыша — это, вероятно, сын или потомок человека по прозвищу Костыш.

Основа фамилии — слово «костыль». В русских говорах у него несколько значений. Прямое — палка для ходьбы с поперечиной под мышку. Переносное — высокий, худой, нескладный человек, которого сравнивали с костылём. В некоторых диалектах «костыль» означал также кривой нож, багор или даже вид письменного знака (крюк, росчерк). Прозвище Костыш мог получить либо человек с заметной хромотой или особенностью походки, либо, наоборот, долговязый и угловатый. Реже основой могло стать неканоническое имя, данное по обереговой традиции: чтобы ребёнок не болел, его нарекали Костылём или Костышем, «закрепляя» за ним символ опоры.

Менее вероятная, но возможная версия связывает фамилию с глаголом «костылять» — идти с трудом, прихрамывая, или бить (отсюда «накостылять»). В этом случае прозвище носило более активный характер и относилось к драчуну или забияке.

Фамилия Костышина — женская форма, в мужском варианте — Костышин. Она фиксируется преимущественно в центральных и поволжских областях России, а также на Урале, куда фамилия попала с переселенцами. Встречается реже, чем однокоренные Костылев или Костылёв, что говорит о локальном бытовании прозвища Костыш.

Социальный состав носителей фамилии, судя по архивным записям XIX века, — в основном крестьяне и мещане. Фамилия не принадлежала к дворянским родам и не попала в «Бархатную книгу», что типично для прозвищных фамилий, закрепившихся в простонародье.