Фамилия Мамайко звучит на южнорусский и украинский лад — её выдаёт суффикс -ко, который в XVI–XVIII веках был одним из самых распространённых формантов для образования фамилий на землях современной Украины и Беларуси. В Великороссии такие фамилии тоже встречались, но реже и обычно в южных регионах. Суффикс -ко в данном случае указывает на потомка или носителя прозвища: Мамайко — это «сын Мамая» или «человек, связанный с Мамаем».

Основа фамилии — Мамай. Самое очевидное, что приходит на ум, — это исторический хан Мамай, темник Золотой Орды, разбитый Дмитрием Донским в 1380 году. Однако напрямую выводить фамилию от него было бы натяжкой: прозвище Мамай в народе давали не в память о хане, а по внешним или поведенческим чертам. В украинских и русских говорах «мамай» могло означать «неряха», «растрёпа» или «неповоротливый человек» — слово перекликается с тюркским «мамай» (страшилище, пугало). В некоторых диалектах так называли медведя или даже домового, но это скорее локальные варианты.

Есть и другая версия, менее экзотическая, но более прозрачная: фамилия могла произойти от крестильного имени Мамант или его народной формы Мамай. В святцах есть мученик Мамант (Мамант Кесарийский), и в быту это имя сокращалось до Мамай, а потом обрастало суффиксом -ко. Такая модель типична для украинской антропонимии: Ивась → Ивасько, Степан → Степанько, Мамай → Мамайко.

Встречается фамилия Мамайко в основном на западе и юге Украины — в Волынской, Ровенской, Хмельницкой областях, а также среди потомков переселенцев на Кубани. В дореволюционных метрических книгах носители фамилии записаны преимущественно как крестьяне и казаки. Дворянских родов с такой фамилией не зафиксировано — это фамилия простонародная, образованная в среде, где прозвище или уменьшительное имя легко становилось наследственным.

Сравнение с однокоренными фамилиями — Мамаев, Мамайчук, Мамай — показывает, что Мамайко стоит в ряду тех, что сохранили суффикс субъективной оценки. Если Мамаев — это «чей-то сын Мамая» в великорусском варианте, то Мамайко — то же самое, но в уменьшительно-ласкательной или «сыновьей» форме, типичной для западнорусских земель.