Фамилия Никотенко — типичный пример украинской фамилии, образованной по патронимической модели с суффиксом -енко. На востоке и в центре Украины этот суффикс был основным способом обозначения потомка: Никотенко буквально значит «сын Никота». В России такие фамилии особенно распространены на территориях современной Слобожанщины и в южных губерниях, куда в XVII–XVIII веках переселялись украинские казаки и крестьяне.

Корень фамилии — Никот — вызывает вопросы. Это неканоническое имя или прозвище. Вероятнее всего, Никот — это просторечная, усечённая форма от полного христианского имени Никита. В бытовой речи восточных славян имя Никита нередко сокращали до Нико́т (с ударением на второй слог), подобно тому как из Дмитрия получался Дми́т или Митя, а из Федота — Федот или Федо́тко. Уменьшительно-ласкательный вариант Нико́тко дал бы основу для фамилии Никотенко. Менее вероятная, но возможная версия — связь с диалектным словом «никота» (от «никнуть»), которое в некоторых говорах означало «тихоня», «незаметный человек». Однако эта гипотеза слабее: суффикс -енко в украинской традиции почти всегда прикреплялся к личным именам или прозвищам, а не к нарицательным словам в чистом виде.

Интересная деталь: фамилия Никотенко не встречается в ранних реестрах запорожского казачества XVII века, что косвенно указывает на её более позднее оформление — скорее всего, в конце XVIII — XIX веке, когда фамилии на -енко стали массово закрепляться за крестьянским и мещанским населением. В метрических книгах Харьковской, Полтавской и Черниговской губерний фамилия фиксируется с середины XIX столетия. По сравнению с однокоренными Никитенко и Никитин, фамилия Никотенко заметно редче: она сохранила нестандартную народную форму имени, что делает её более локальной и диалектной.