Фамилия Мытай — редкий случай, когда прозвище перешло в фамилию почти без изменений, сохранив исходную форму. В ней нет суффиксов -ов, -ин или -ский, которые обычно «привязывали» человека к роду. Это так называемая непроизводная фамилия, застывшее прозвище, которое в XVI–XVII веках могли дать человеку и записать в документы без переделки.

Основа фамилии — слово «мыт» или «мыто». В древнерусском языке мытом называли пошлину за проезд или провоз товаров через заставу, а также место, где эту пошлину собирали. «Мытай» — это человек, имеющий отношение к мыту: либо сборщик (мытник), либо тот, кто постоянно возил товары и платил мыто, либо, по другой версии, тот, кто объезжал заставу тайком, то есть «мытарил» — хитрил, обманывал. Второй оттенок значения (плут, проныра) тоже возможен, но менее вероятен для прозвища, которое закреплялось за родом: скорее всего, предок был занят на мытной службе.

Географически фамилия тяготеет к юго-западу России и Украине. Встречается в Черниговской, Сумской, Полтавской областях, реже — в центральных регионах России. Это объяснимо: мытные заставы были особенно многочисленны на торговых путях, которые шли через эти земли. В белорусском и украинском языках слово «мыто» сохранилось в значении «пошлина», тогда как в северных русских говорах его вытеснили другие термины.

Интересно, что фамилия Мытай стоит в ряду таких же «чистых» прозвищных фамилий, как Нечай, Поздняк, Гуляй, Богдай. Все они указывают на то, что носитель получил фамилию не по отцу, а по личному прозвищу, которое было настолько ярким или распространённым, что не потребовало суффиксального оформления. Сравните с однокоренной фамилией Мытарев — она образована стандартно, через суффикс -ев, и означает «сын мытаря». Мытай же — это сам мытарь, без посредников.