Фамилия Костиря — редкий случай, когда прозвище сохранилось почти без изменений, без типичных фамильных суффиксов -ов, -ин или -ский. Это так называемая «неоформленная» фамилия, застывшая в форме личного прозвища. В русской ономастике такие фамилии особенно характерны для украинской, белорусской и южнорусской традиций, где прозвища нередко переходили в фамилии напрямую.

Основа фамилии — слово «костырь» или «костирь». В русских говорах так называли человека, который ходит с костылём, хромого. Но есть и вторая, более интересная версия. В картёжном арго XVII–XIX веков «костирь» — это шулер, игрок в кости, тот, кто использует краплёные кости или передёргивает. В словаре Даля «костирить» означает «браниться, вздорить, ссориться», а сам «костирь» — ещё и сварливый человек, задира. Таким образом, прозвище могло указывать либо на физический недостаток (хромоту), либо на характер (скандальный, неуживчивый), либо на занятие (картёжник, шулер).

Словообразовательная модель здесь прозрачна: суффикс -ир-/-ыр- (как в «пузырь», «бобырь», «богатырь») образует имя деятеля или носителя признака. В отличие от фамилий на -ин или -ов, которые привязывали человека к отцу или роду, Костиря — это прямая характеристика самого человека, его «уличное» имя.

Географически фамилия тяготеет к югу России и Украине. Встречается в запорожских реестрах и переписях Черниговской губернии. В центральных и северных областях России она редка: там предпочитали оформлять такие прозвища суффиксами — отсюда фамилии Костирев, Костирин, Костирко. Костиря — более архаичный, «неоглаженный» вариант.

Спор между версиями «хромой» и «шулер» решается в пользу первой, если учесть, что прозвища по физическим недостаткам давали чаще, чем по социально осуждаемым занятиям. Но полностью исключать картёжную версию нельзя: в среде ямщиков, бурлаков и отходников такие прозвища были обычны. В любом случае, фамилия Костиря — это не про кость, а про костыль или кости.