Фамилия Мамаенко — один из примеров того, как восточное имя прижилось на украинской почве и обросло местным суффиксом. Её основа — тюркское личное имя Мамай, которое попало в славянскую среду через татарское влияние, особенно активное в южнорусских и украинских землях.

Этимология самого имени Мамай спорная, и тут нет единого мнения. По одной версии, оно восходит к татарскому mamaj — «чудовище, которым пугают детей», что могло быть связано с фигурой хана Мамая, правителя Золотой Орды. По другой, более прозаичной, в основе лежит слово mam — «черт, дьявол». В любом случае, имя не было редким и встречалось не только у знати.

Суффикс -енко — типичный украинский патронимический показатель, который буквально означает «сын» или «потомок». Таким образом, Мамаенко — это «сын Мамая». Модель образования проста: к основе имени добавили суффиск, и фамилия закрепилась за родом, где предка звали Мамаем.

Интересно, что в русской традиции от того же имени пошли фамилии Мамаев и Мамай (без суффикса). Но именно форма на -енко указывает на украинское происхождение носителей. Дворянский род Мамаевых известен по документам: например, Мамай Мамаев и его сын Григорий в конце XVI — начале XVII века владели поместьями и имели значительный оклад. Однако к фамилии Мамаенко этот род прямого отношения не имеет — там другая модель образования.

В быту фамилия могла закрепиться за человеком, чей отец или дед носил имя Мамай. Никакого отношения к «страшному» смыслу имени это уже не имело — со временем тюркская основа перестала осознаваться, и фамилия стала просто родовым знаком.