Фамилия Шкарманцев — один из тех случаев, когда стоит начать с разбора модели образования, а не с корня, потому что именно суффикс подсказывает главное: перед нами не дворянская фамилия, а типичная крестьянская или мещанская, возникшая на территории, где действовала «украинская» или «польская» словообразовательная схема. Суффикс -ев (а не -ов) указывает на то, что основа оканчивалась на мягкий согласный или шипящий. Но в данном случае интереснее другое: в русской среде фамилии на -анцев/-енцев обычно образовывались от названий жителей местности (например, Рязанцев, Моршанцев), а вот Шкарманцев — явно от прозвища или профессионального имени, что встречается реже.

Корень «шкарман» — искажённое или диалектное произношение слова «шарман» (шарманка). В южнорусских и украинских говорах звук «а» после шипящего часто переходил в «о» под ударением, но здесь мы видим обратный процесс: «шарман» превратился в «шкарман» из-за аканья или простонародного переосмысления. Таким образом, основная версия: Шкарманцев — потомок шарманщика, бродячего музыканта, который ходил с шарманкой по ярмаркам. Шарманщики были заметными фигурами в городской и сельской жизни XVIII–XIX веков, и прозвище Шарман (или Шкарман) легко могло закрепиться за человеком, чьим ремеслом или отличительной чертой была эта профессия.

Менее вероятная, но возможная версия связывает фамилию с диалектным словом «шкарман» в значении «карман» (с протетическим «ш» — явление, известное в некоторых говорах: шкаф, шкода). Тогда прозвище Шкарман мог получить человек с большим карманом, либо тот, кто носил что-то в кармане, либо даже вор-карманник. Однако эта гипотеза слабая: слово «шкарман» в значении «карман» фиксируется редко и только в отдельных северных говорах, а фамилия распространена скорее на юге — в Ростовской области, Краснодарском крае и на Украине. Поэтому версия с шарманщиком выглядит убедительнее.

География фамилии подтверждает южное происхождение. Шкарманцевы встречаются в документах XIX века среди казаков и крестьян Войска Донского. Это косвенно указывает, что предок мог быть не просто музыкантом, а человеком, который развлекал казачьи станицы или торговал на ярмарках. В отличие от фамилий на -ский, которые часто указывают на шляхетское происхождение, Шкарманцев — «чистая» профессиональная фамилия, без примеси сословных претензий. Она не переделана, не облагорожена: так и осталась прозвищем, застывшим в паспорте.