Фамилия Никиенко — типичный пример украинской модели образования фамилий, где суффикс -енко играет роль указателя на родство. Дословно её можно перевести как «сын Ники», а в более широком смысле — «потомок человека по прозвищу Ника». Такая форма была особенно распространена в Левобережной Украине и на юге России, куда она попала вместе с переселенцами.

Исходное прозвище Ника, от которого пошла фамилия, имеет несколько возможных толкований. Первое и самое известное отсылает к нарицательному «ника», что в словаре В. И. Даля означает «победительница» (от древнегреческой богини победы Ники). В этом случае прозвище могло закрепиться за человеком удачливым, часто выигрывавшим в спорах или состязаниях, либо за тем, кто брал верх в любом деле.

Вторая версия, менее очевидная, но тоже имеющая право на существование, связывает прозвище с прилагательным «никлый» — то есть поникший, согбенный, вялый. В народе Никой могли прозвать рано постаревшего, болезненного человека, который ходил ссутулившись, словно под тяжестью лет. Также существовало слово «никать» — никнуть, опускаться, что усиливало эту ассоциацию.

Третья, более редкая трактовка, отсылает к имени Никанор или Никита, от которых в разговорной речи могли отсекать начало, оставляя сокращённую форму Ника. Однако для фамилии Никиенко эта версия менее убедительна, так как от полных имён обычно образовывались фамилии Никитин, Никаноров или Никитенко, а форма с суффиксом -енко чаще цеплялась именно к прозвищу.

Со временем прозвище Ника, изначально присоединённое к наследственному имени, полностью заменило его как в повседневной жизни, так и в официальных документах. Потомков человека, которого в округе знали как Нику, стали записывать Никиенко — и эта форма закрепилась, перейдя от отца к детям и внукам. В документах XVII–XVIII веков, когда казацкая старшина и крестьяне активно получали фамилии, подобные образования фиксировались массово, что делает Никиенко одной из многих фамилий, рождённых из живого народного прозвища.