Фамилия Костюценко звучит на южнорусский или украинский лад, и это первое, что бросается в глаза. Суффикс -енко — классический маркер украинской фамильной модели, означающий «сын» или «потомок». В XVII–XVIII веках такие фамилии закрепились в казацкой среде и среди крестьянства Левобережной Украины и Слобожанщины. Костюценко — не просто «чей-то сын», а сын человека по прозвищу или имени Костюца.

Сам корень Кост- отсылает к крестильному имени Константин (от лат. constans — «стойкий», «постоянный»). В народной речи имя дробилось на множество уменьшительных форм: Костя, Костюк, Костюша, Костюха. Форма Костюца — редкая, но вполне реальная для украинского диалекта. Она образована с помощью суффикса -юц(а), который в разговорной речи придавал имени оттенок ласкательности или, наоборот, ироничной простонародности (сравните: «дядюца», «батюца»). Человек по прозвищу Костюца — это, скорее всего, Константин, которого так звали в быту, или его сын, которого окрестили по отцу.

Есть и другая, менее вероятная версия: основа могла произойти от глагола костючить — в некоторых говорах так называли грубую работу, починку, а иногда и драку. Но в отличие от фамилий вроде Костюков или Костюченко, которые встречаются повсеместно, Костюценко — штучный вариант. Он не попал в массовые реестры казаков или мещан, а значит, мог закрепиться в одной конкретной местности — вероятно, в Черниговской, Полтавской или Харьковской губерниях, где суффикс -енко был основным способом образования фамилий у простых людей.

Сословно Костюценко — почти наверняка крестьянская или казацкая фамилия. Дворяне в этой модели предпочитали суффиксы -ов или -ский, а люди с фамилией на -енко редко владели землями и крепостными. Первые письменные упоминания стоит искать в исповедных ведомостях и ревизских сказках XIX века по левобережной Украине. Если ваш предок носил эту фамилию, он, скорее всего, был потомком простого казака или крестьянина, которого в округе знали как Костюцу — то есть малорослого Константина.