Фамилия Кустенко — это типичный пример украинской фамилии, образованной по патронимической модели с суффиксом -енко. Этот суффикс, один из самых распространённых в украинской ономастике, буквально означает «сын» или «потомок», поэтому Кустенко — это «сын Куста». В основе фамилии лежит прозвище Куст, а его происхождение может быть связано с несколькими разными ситуациями.

Самое прямое объяснение — прозвище по месту жительства. Кустом могли назвать человека, чей дом стоял в густых зарослях или на опушке. Однако в разных регионах России и Украины у слова «куст» были и переносные, профессиональные значения. В Московской и Владимирской губерниях «кустами» называли мелких домашних промышленников — ткачей бумажных и шёлковых тканей, которые работали на одном станке у себя дома. Прозвище Куст могло закрепиться за таким ремесленником. Ещё одно, более редкое значение — бродяга или человек без определённого места жительства, особенно в Сибири, где «кустом» могли назвать того, кто ночует под открытым небом.

Наиболее правдоподобной версией представляется профессиональная или бытовая: прозвище давалось по роду занятий или заметной особенности дома. Со временем прозвище вытеснило исходное имя и передалось детям в форме фамилии Кустенко. Географически фамилия тяготеет к украинским землям. В Книге памяти Республики Саха упоминается Михаил Илларионович Кустенко, родившийся в 1915 году в селе Волынко Сосницкого района Черниговской области. В документах Кызылординской области содержится информация о Григории Ивановиче Кустенко, родившемся в 1879 году в селе Волынка Сосницкого уезда той же Черниговской губернии. Эти записи указывают на конкретный очаг бытования фамилии — черниговское Полесье, где слово «куст» в местных говорах могло иметь свои оттенки значения.