Фамилия Костышенко — яркий пример украинской модели фамилий на -енко, которая в XVII–XVIII веках была характерна для казацкой старшины и мещанства Левобережной Украины. Суффикс -енко буквально означает «маленький» или «сын», поэтому изначально фамилия передавалась как «сын Костыша». Основа здесь — личное имя или прозвище Костыш, которое, в свою очередь, образовано от канонического имени Константин (в народной форме Коста, Кость) с помощью уменьшительно-ласкательного суффикса -ыш. То есть Костыш — это «маленький Константин» или попросту Костик.

Вторая, менее распространённая версия, связывает основу Костыш с диалектным словом «костыш» — так в некоторых говорах называли костыль, клюку или хромого человека. В этом случае прозвище мог получить человек, который хромал, опирался на палку или, в переносном смысле, был «костылём» — тем, кто мешает, ставит палки в колёса. Однако для фамилии, образованной через патронимический суффик -енко, имя собственное Костыш выглядит более естественным источником, чем прозвище от предмета.

Географически фамилия Костышенко тяготеет к центральным и восточным областям Украины — Полтавщине, Черкасщине, Харьковщине. В Российской империи носители такой фамилии, как правило, относились к казачьему сословию или государственным крестьянам, но не к дворянству — фамилии на -енко редко попадали в «Бархатную книгу», оставаясь фамилиями простых, но свободных людей.

Если сравнивать с однокоренными фамилиями, то Костышенко стоит в одном ряду с Костышиным (русская форма на -ин) и Костышевым (с суффиксом -ев). Украинский вариант на -енко указывает на более позднюю фиксацию фамилии (не ранее середины XVII века) и на то, что родоначальник жил именно на территории Гетманщины, где такая словообразовательная модель была нормой.