Фамилия Нанай — редкий случай, когда основу можно трактовать и как этноним, и как личное имя, и как прозвище. Её носители встречаются в основном на юге России и на Украине, что уже даёт ключ к разгадке.

Самый прямой путь — от этнонима «нанайцы». Это тунгусо-маньчжурский народ, живущий на Дальнем Востоке (в Хабаровском крае и Китае). Однако фамилия Нанай у русских и украинцев почти наверняка не связана с этим народом напрямую. Скорее всего, она возникла как прозвище, которое дали человеку за схожесть с дальневосточными жителями — возможно, за узкие глаза, смуглую кожу или за то, что он торговал с ними или побывал в тех краях. В XIX веке, после присоединения Приамурья, контакты с нанайцами участились, и прозвище могло закрепиться за отходниками или казаками.

Вторая версия — тюркская. В тюркских языках (например, в татарском, башкирском, казахском) слово «нанай» или «нанай» может быть вариантом имени Нан (Нан-ай) — «мать-луна» или ласкательного обращения к старшей родственнице. В этом случае фамилия образована от личного имени Нанай, которое давали ребёнку в честь бабушки или как оберег. Суффикс отсутствует, что характерно для фамилий, застывших в форме прозвища или имени без изменений — так часто бывает у украинских и южнорусских фамилий (сравните: Коваль, Писарь, Гай).

Третья, менее вероятная версия — от греческого «нана» (νάνα) — «бабушка», «няня». В греческих диалектах Приазовья такое обращение могло стать фамильным прозвищем.

Словообразовательная модель проста: фамилия не получила типичного русского суффикса (-ов, -ин, -ский), а осталась в чистом виде. Это говорит о том, что она либо очень старая (закрепилась до массового оформления фамилий), либо пришла из среды, где фамилии фиксировали в форме прозвищ (у казаков, однодворцев, мещан).

Однокоренных фамилий в русском языке практически нет. Можно вспомнить разве что Нанайко (с украинским суффиксом -ко) или Нанаев (с русским -ев), но они ещё реже. Фамилия Нанай уникальна своей прозрачной, но неочевидной этимологией: она звучит как экзотика, но корни у неё, скорее всего, местные, южнорусские или украинские, а экзотика — лишь отражение прозвища, данного по внешности или занятию предка.