Фамилия Пестенко образована по распространённой в украинской и южнорусской ономастике модели с суффиксом -енко, который изначально означал «сын» или «потомок». Этот суффикс — один из главных маркеров украинского происхождения фамилий, хотя встречается и на русском юге. Основа фамилии — «Пест» — может восходить к разным источникам, и здесь есть несколько версий, из которых одна выглядит убедительнее.

Самая вероятная версия — прозвище Пест от слова «пест» (толкач, деревянный стержень для растирания чего-либо в ступе). Такое прозвище мог получить либо человек, занимавшийся изготовлением пестов (ремесленник-бондарь или токарь), либо тот, кого за силу или упёртость сравнивали с этим незамысловатым, но крепким инструментом. В русских говорах слово «пест» имело и переносные значения: так называли упрямого, тяжёлого на подъём человека. Фамилии на -енко от названий предметов быта — явление обычное: Пестенко стоит в одном ряду с Молотенко, Ноженко, Топоренко.

Менее вероятна, но возможна связь с личным именем Пест, которое могло быть сокращённой формой от крестильных имён Пётр, Пелагея или даже от редкого имени Пест (в святцах его нет, но в народной традиции имя могло существовать). Однако для украинской модели фамилий на -енко характернее образование от прозвищ, а не от канонических имён. Версия с производством от «пёстрый» маловероятна: в таком случае основа звучала бы как «Пестр-» (ср. Пестренко, Пестряков), а не «Пест-».

Фамилия Пестенко не относится к числу дворянских или княжеских — это типичная фамилия крестьянского и казачьего сословия. Наибольшее распространение она получила на Левобережной Украине, в частности в Черниговской и Полтавской губерниях, откуда в XIX веке мигрировала на Кубань и в южные области России. В документах Переписной книги 1666 года упоминается казак Пестенко из Нежинского полка, что подтверждает давнее бытование фамилии в среде реестрового казачества.

В написании фамилии встречается вариант Пестенко (с ударением на второй слог) — именно он считается нормативным. Вариант Пестёнко (с ударением на ё) возможен в разговорной речи, но не закреплён в официальных документах. В целом фамилия прозрачна по структуре и даёт ясное представление о своём носителе: предок человека с такой фамилией, скорее всего, был либо ремесленником, делавшим песты, либо получил прозвище за характер, напоминающий этот прочный и прямой предмет.