Фамилия Нихаенко звучит как типичная украинская фамилия, образованная по патронимической модели с суффиксом -енко. В украинской ономастике суффикс -енко исторически означал «сын» или «потомок», и такие фамилии массово закреплялись в XVI–XVII веках в Поднепровье, Слобожанщине и на юге России. Основа фамилии — личное имя или прозвище Нихай.

Самая вероятная версия: Нихай — это украинская фонетическая форма канонического имени Никита (в народной речи — Микита, Никита). В украинских говорах встречается вариант «Нихiт» или «Нихiй», где «х» заменяет «к» под влиянием местного произношения. Таким образом, Нихаенко — «сын Нихая», то есть потомок человека по имени Никита. Менее распространённое объяснение возводит основу к глаголу «нихати» (устар. — качать, колебать, или, в диалектах, — нюхать), но такая версия слабее: прозвища от действий обычно давались по конкретному занятию или привычке, и «нихати» не даёт прозрачной бытовой мотивации, в отличие от имени.

Фамилия Нихаенко редкая. По данным современных переписей, она встречается в основном в восточных областях Украины (Харьковская, Сумская, Днепропетровская), а также среди потомков переселенцев на Кубани и в Ростовской области. Это совпадает с ареалом распространения фамилий на -енко, которые вытесняли более северные модели на -ов/-ев в ходе колонизации Дикого поля. В дореволюционных источниках фамилия почти не фиксируется, что говорит о её позднем оформлении или о принадлежности носителей к крестьянскому и казачьему сословиям, которые не оставили массовых письменных следов.

Словообразовательно фамилия стоит в одном ряду с такими же украинскими образованиями, как Михайленко (от Михайло), Даниленко (от Данило), Тимошенко (от Тимош). Разница лишь в том, что имя Никита дало меньше патронимических фамилий, чем распространённые Михаил или Даниил, поэтому Нихаенко — нечастый, но вполне закономерный вариант.