Фамилия Лутаенко (а не «Лутаенк» — именно такая форма встречается в украинской и южнорусской ономастике) образована по распространённой восточнославянской модели с суффиксом -енко. Этот суффикс в украинской традиции указывал на сына или потомка человека, названного в основе: буквально «маленький Лутай» или «сын Лутая». Сама основа — Лутай — это прозвище, которое могло возникнуть от глагола «лутать» (в диалектах — шататься, бродить без дела, а также быстро двигаться, мелькать). В некоторых говорах «лутать» означало и «бить, колотить», что тоже могло стать источником прозвища для драчуна или неспокойного человека.

Географически фамилия Лутаенко наиболее характерна для левобережной Украины — Черниговщины, Полтавщины, Сумщины, где суффикс -енко был основным способом образования фамилий у казаков и крестьян. Это указывает на то, что предок носителя фамилии, скорее всего, принадлежал к непривилегированным сословиям: казацкой старшине, реестровым казакам или свободным земледельцам. В отличие от польских или великорусских фамилий на -ский или -ов, такие фамилии редко встречались у дворянства.

Интересная деталь: если бы фамилия звучала как «Лутаенк» без окончания, это могло бы указывать на её белорусское или западнорусское происхождение, где иногда отсекали конечный гласный. Но в реальности носители с таким написанием — скорее всего жертвы канцелярской ошибки при переписи или адаптации в русскоязычной среде. Поэтому основная версия — украинская, с типичным суффиксальным оформлением.

В ономастических словарях (например, у Ю.К. Редько) фамилия Лутаенко не выделяется как редкая, но и не относится к массовым. Её корень Лутай встречается и в других фамилиях — Лутаев, Лутанов, что подтверждает древность прозвища. Вероятнее всего, первый Лутай получил своё имя за подвижность или неусидчивость, а его потомки закрепили это качество в фамилии.