Фамилия Шмыкоа — редкий случай, где написание говорит о произношении больше, чем о стандартной орфографии. Перед нами не опечатка, а живая народная форма. Правильнее всего видеть здесь фамилию Шмыков, записанную на слух: в русских говорах, особенно южных, конечное -в в фамилиях часто оглушается и произносится как -ф, а на письме это иногда закреплялось по принципу «как слышу, так и пишу». Сочетание -коа вместо ожидаемого -ков — прямое указание на акающее произношение, где безударное «о» перешло в «а». Такая фиксация фамилии встречается в документах XIX — начала XX века, когда грамотность была не всеобщей, и писарь записывал фамилию крестьянина или мещанина фонетически.

Основа фамилии — прозвище Шмык. В русских говорах «шмык» или «шмыга» означало человека юркого, пронырливого, который «шмыгает» — быстро и незаметно двигается, ускользает. Слово звукоподражательное, передающее резкое, скользящее движение. В некоторых диалектах «шмык» — это ещё и название вора-карманника или мелкого мошенника, но в основе прозвища лежит не столько осуждение, сколько наблюдение за повадкой: так могли назвать подвижного, верткого парня, который везде успевает.

Суффикс -ов в стандартной форме указывает на принадлежность: Шмыков — сын Шмыка. Фамилия Шмыкоа, будучи искажением на письме, несёт ту же родовую нагрузку: это «из семьи Шмыка». Географически такие «акающие» записи тяготеют к югу России — Курской, Воронежской, Тамбовской губерниям, а также к казачьим областям Дона и Кубани, где устная традиция долго преобладала над письменной.

Сравните с однокоренными фамилиями: Шмыганов, Шмыгалев, Шмыгун. Все они образованы от того же глагола «шмыгать», но через разные прозвищные формы. Шмыкоа стоит особняком: это не столько вариация корня, сколько свидетельство того, как фамилию запомнили и записали соседи, а не сам носитель в паспортном столе. Если вы встретили эту фамилию в старых метрических книгах или ревизских сказках, рядом почти наверняка найдётся и стандартное написание Шмыков — у той же семьи в других документах.