Фамилия Костыренко образована по распространённой восточнославянской модели с суффиксом -енко, который в украинской ономастике традиционно указывал на происхождение: «сын» или «потомок» человека, названного в основе. В данном случае основа — прозвище Костырь. Таким образом, фамилию получил сын или потомок человека по прозвищу Костырь.

Разобраться со значением прозвища Костырь сложнее, чем кажется, потому что у слова несколько значений. Самое известное — «игрок в кости», так трактует это слово В. И. Даль. Отсюда первая версия: предок мог быть азартным человеком, любителем старинной игры в бабки или кости. Вторая версия — диалектная. В рязанских говорах «костырь» означало «щепочка», «лучинка». Если принять это значение, прозвище могло относиться к ремеслу — например, к плотнику или столяру, который работал с деревом, щепой.

Какая из версий правдоподобнее? Однозначного ответа нет. Прозвища, данные по характеру или привычке (азартный игрок), встречаются не реже, чем профессиональные. Но важно, что обе версии имеют под собой реальную языковую почву, а не притянуты за уши.

Фамилия Костыренко — украинская по форме, что подтверждается суффиксом -енко, типичным для Поднепровья, Слобожанщины и юга России. Встречается она в основном в этих регионах. В официальных документах XIX века прозвище Костырь, закреплённое за родоначальником, трансформировалось в фамилию для его потомков, и сегодняшние носители фамилии Костыренко — прямые наследники того самого Костыря, кем бы он ни был: заядлым игроком или умелым мастером по дереву.