Фамилия Костырка звучит как типичное украинское или южнорусское прозвище, перешедшее в фамилию. Её основа — «костырка» — в старых говорах имела два значения. Первое, прямое: небольшая костыль, трость или палка с загнутым концом, на которую опираются при ходьбе. Второе, переносное: так могли назвать человека, который ходит с трудом, прихрамывает, или же, напротив, того, кто постоянно «подпирает» других, назойливо вмешивается в дела. В русских диалектах слово «костырка» бытовало и как название деревянной части сохи, что указывает на возможную связь с крестьянским ремеслом.

Словообразовательная модель фамилии — украинская по происхождению. Суффикс «-ка» в украинских фамилиях часто указывал на прозвище или профессию (ср. Швець — Швецька, Коваль — Ковалька). Фамилия Костырка, скорее всего, возникла в среде казачества или крестьянства на территории современной Украины или юга России, где такие прозвища были естественны для бытового обихода. В отличие от русских фамилий на «-ов» или «-ин», которые образовывались от отчества, Костырка закрепилась как фамилия-прозвище без дополнительного суффикса принадлежности.

Редкость фамилии в том, что она не имеет широко распространённых однокоренных вариантов вроде Костырев или Костырин. Если фамилия Костырев образована от прозвища «Костырь» (человек с костылём или задира), то Костырка — более конкретная и уменьшительная форма. Это может говорить о том, что предок носителя был не просто хромым, а, например, мастером, делавшим костыли, или человеком с характерной лёгкой хромотой, которую в селе подмечали и закрепили в прозвище.

Сословно фамилия почти наверняка принадлежала не дворянству, а крестьянам или мещанам. В документах XVIII–XIX веков носители Костырки встречаются в основном в Черниговской, Полтавской и Харьковской губерниях, что подтверждает её украинские корни. Современные носители фамилии чаще всего живут на востоке Украины и в приграничных областях России.