Фамилия Мамай чаще всего происходит от древнетюркского мужского имени Мамай, которое было широко распространено во времена Казанского ханства. Это имя — местный вариант арабского Мухаммед, то есть «прославляемый», и до сих пор встречается в некоторых тюркских языках. Словообразовательная модель здесь простая: фамилия образована от личного имени без дополнительных русских суффиксов (-ов, -ин), что характерно для фамилий тюркского происхождения, которые закрепились в русском обиходе в исходной форме.

Менее убедительная версия связывает фамилию с прозвищем Мамай, которое на Руси могли дать грубияну или драчуну. Эта гипотеза слабее, поскольку имя Мамай исторически документировано как полноценное личное имя у тюркских народов, и именно оно с большей вероятностью легло в основу фамилии. Прозвищная версия, скорее всего, возникла из-за позднего фольклорного образа хана Мамая как врага и разорителя, но к реальному происхождению фамилии рядовых людей она отношения не имеет.

Примечательно, что фамилия Мамай не получила массового распространения у русских: она редкая и в основном встречается у потомков татар, башкир и других народов Поволжья. В русской среде её могли получить выходцы из татарских служилых людей, которые после падения Казанского ханства переходили на службу московским князьям. Таким образом, носитель фамилии Мамай, скорее всего, ведет род от человека, которого звали именем Мамай, и это имя указывает на его тюркские корни, а не на характер предка.