Фамилия Нколаенков — редкий и показательный случай, как в русском языке перерабатывались иноязычные имена. В основе лежит имя Николай, но с заметным искажением: первая гласная «и» выпала, и получилось «Нколай». Такая утрата звука в начале слова (так называемая гаплология или простое стяжение в беглой речи) типична для южнорусских и украинских говоров, где имя произносили как «Микола» или «Нкола». На письме это закрепилось в фамилии.

Суффикс -енков указывает на восточноукраинское или южнорусское происхождение. На севере и в центре России чаще использовали -ов (Николаенков → Николаенков встречается, но исходная форма с «Н» — редкий вариант). -енков — это патронимический суффикс, который буквально означает «маленький, сын»: Нколаенков — сын Нколая. То есть фамилия образована от просторечной, диалектной формы крестильного имени Николай, которое в православной традиции было одним из самых популярных.

Сам корень восходит к греческому «Николаос» — «победитель народов». Но в быту имя обросло множеством вариантов: Никола, Микола, Никула, Нколай. Последний вариант почти не встречается в официальных документах XIX века, но мог существовать в устной речи в среде малограмотных крестьян. Фамилия Нколаенков — как раз письменное свидетельство такого живого произношения, которое не успели «исправить» при записи в метрические книги.

Сравните с однокоренными: Николаенко (украинская модель без -в), Николаенков (с полной формой имени), Миколаенко. Нколаенков стоит особняком — это не описка писаря, а последовательная передача местного говора. Географически фамилия тяготеет к Курской, Белгородской, Воронежской областям и прилегающим районам Украины, где редукция гласных в начале слова была нормой.

Сословно носители фамилии — почти наверняка крестьяне или однодворцы, у которых имя Николай было распространено, а фамилию дали по отцу в конце XVIII — первой половине XIX века, когда массово закреплялись патронимы. Дворянских родов с такой фамилией нет: слишком просторечная основа.