Фамилия Мусташкин — редкий случай, когда в основе лежит не имя и не профессия, а, скорее всего, диалектное прозвище. Если отбросить суффикс -ин, указывающий на принадлежность («чей?» — сын Мусташки), остаётся корень «мусташк-». Самое правдоподобное объяснение ведёт к слову «мусташ» — так в некоторых южнорусских и украинских говорах называли усы, особенно длинные, пышные или неопрятные. Соответственно, Мусташкой могли прозвать человека с приметными усами, и это прозвище закрепилось за его потомками.

Менее вероятна, но возможна связь с тюркским именем Мустафа (через форму Мусташ), хотя в этом случае фамилия обычно звучала бы как Мустафин или Мустафьев. Форма Мусташкин с характерным славянским суффиксальным оформлением указывает на то, что прозвище уже на русской почве переделали в ласкательную или уменьшительную форму — Мусташка. Такая модель типична для бытовых, нецерковных имён: от усов — Мусташ, от него — Мусташка, отсюда и Мусташкины.

Географически фамилия тяготеет к югу России и Поволжью, где слово «мусташ» было в ходу. Встречается она нечасто, и носители её, скорее всего, происходят из крестьянской или мещанской среды, где прозвища давали по внешним чертам без обиняков.

Словообразовательная модель проста: прозвище Мусташка плюс притяжательный суффикс -ин. Это одна из самых распространённых схем для русских фамилий, но именно основа делает её нешаблонной. Никакой тайны древнего рода тут нет — просто у предка были заметные усы, и это запомнили соседи.