Фамилия Мухаркин — один из тех случаев, когда внешне понятный корень таит в себе сразу несколько возможных объяснений. На первый взгляд, основа «мухар» наводит на мысль о тюркском заимствовании: в тюркских языках «мухар» или «мухур» означает «печать», «клеймо», «тамга». Однако в русском быту это слово прижилось в ином значении — «мухарь» или «мухор» на многих русских говорах называли невысокого, коренастого человека, а также неказистую, малорослую лошадёнку. В диалектах Вологодчины, Сибири и Урала «мухорный» значило «низкорослый», «невидный». Отсюда и прозвище Мухарко (уменьшительное с суффиксом -к-о) — его мог получить либо человек приземистого сложения, либо бедный крестьянин, владевший лишь плохонькой лошадкой.

Суффикс -ин в фамилии указывает на типичную восточнославянскую модель притяжательности: Мухаркин буквально означает «сын Мухарки» или «человек из рода Мухарки». В отличие от фамилий на -ов, которые чаще образовывались от полных форм, -ин характерен для основ, оканчивающихся на -а/-я. Такая модель была особенно распространена в северных и центральных губерниях России, где прозвища на -ка (Ванька, Петька, Егорка) давали начало фамилиям на -ин. Географически Мухаркины встречаются в основном в Поволжье и на Урале — в Саратовской, Самарской, Оренбургской областях, что косвенно подтверждает диалектное происхождение корня.

Существует и менее очевидная версия, связывающая фамилию с мусульманским именем Мухаррам (первый месяц исламского календаря). В татарской и башкирской среде имя Мухаррам нередко сокращалось до Мухар, и через прозвище Мухарка оно могло перейти в русскую фамилию при межэтнических контактах. Однако эта гипотеза менее убедительна: в документах XVII–XVIII веков фамилия Мухаркин фиксируется именно у русских крестьян, а не у крещёных татар, и бытует в регионах, где тюркские заимствования в говорах — обычное дело, но не прямое имя.

Таким образом, скорее всего, предок носителя фамилии Мухаркин получил своё прозвище за невысокий рост или за то, что держал мелкую, неказистую лошадку. Фамилия недворянская, крестьянская — её носители были государственными или помещичьими крестьянами, реже — однодворцами. В ревизских сказках XIX века Мухаркины встречаются среди пахотных солдат и ясачных людей, что указывает на непривилегированное, но свободное сословие.