Фамилия Нютенко звучит на украинский лад и образована по очень продуктивной в восточнославянской ономастике модели. Суффикс -енко, характерный прежде всего для Украины, указывает на происхождение по отцу: Нютенко — это буквально «сын Нюты» или «потомок Нюты». В XVII–XVIII веках такие фамилии закреплялись за казаками, крестьянами и мещанами, постепенно вытесняя старые прозвища.

Корень «Нют-» — самый интересный и неочевидный. Скорее всего, это производное от имени Анюта, которое в свою очередь является уменьшительной формой от Анна. В украинской и южнорусской среде такие сокращения с отсечением первого слога — обычное дело: Анюта превращалась в Нюта. Таким образом, основа фамилии — это ласковое домашнее имя, которое носил родоначальник.

Менее вероятна, но возможна связь с диалектным словом «нюта» — так в некоторых говорах называли хмурого, нелюдимого человека или, наоборот, неженку. Однако гипотеза с именем выглядит убедительнее: фамилии на -енко от полных и сокращённых крестильных имён встречаются повсеместно (Иваненко, Петренко, Тимченко, а также Оленченко, Палаженко). В этом ряду Нютенко стоит рядом с такими же «усечёнными» формами, как Гапченко (от Агафья) или Таненко (от Татьяна).

Географически фамилия тяготеет к центральным и восточным областям Украины. Поскольку фамилии на -енко массово фиксировались в реестрах Войска Запорожского и в метрических книгах Левобережья, предки современных Нютенко, скорее всего, происходят из Полтавщины, Черниговщины или Слобожанщины. В России фамилия редка и встречается в основном в областях, граничащих с Украиной, или у потомков переселенцев конца XIX — начала XX века.

С точки зрения словообразования, фамилия проста и прозрачна: основа Нют- плюс типичный украинский патронимический суффикс -енко. Ударение, как и в большинстве подобных фамилий, падает на второй слог: Нюте́нко.