Фамилия Шмаргалёв — одна из тех, где разбор начинается не с корня, а с суффикса, который сразу указывает на эпоху и способ образования. Суффикс -ёв (фонетический вариант -ев после шипящего) принадлежит к самой массовой модели русских фамилий — притяжательным фамилиям на -ов/-ев. Они образовывались от имени или прозвища отца: Шмаргаль → сын Шмаргалёв. Вопрос в том, что такое «Шмаргаль».

Здесь нет единого мнения, но есть две основные версии, и обе укладываются в логику народных прозвищ. Первая связывает основу с диалектным глаголом «шмаргать» — в южнорусских и украинских говорах это означало «шлёпать», «хлестать», «бить». Прозвище Шмаргаль мог получить человек с резким, «бьющим» языком, или же тот, кто часто наказывал детей, или, наоборот, сам был неугомонным, «летающим» как прут. Вторая версия выводит прозвище из «шмарга» — так в некоторых регионах называли мелкую рыбу, вроде снетка или уклейки. Маленький, юркий человек мог получить такое прозвище. Правдоподобнее первая версия: прозвища, образованные от глаголов действия, давались чаще, чем от названий мелкой живности, хотя и то, и другое встречается.

Сам суффикс -аль в основе «Шмаргаль» — характерный признак древнерусских прозвищ, часто с пренебрежительным или уменьшительным оттенком (сравните «ковырять» — «ковыряль», «швырять» — «швыряль»). Шмаргаль — это не имя, а именно уличное прозвище, которое закрепилось в документах. Фамилия Шмаргалёв — сравнительно редкая, её географические корни, скорее всего, лежат в зоне южновеликорусских и украинских говоров (Курская, Орловская, Воронежская области, а также Украина), где глагол «шмаргать» был в ходу.

Интересно, что написание через «ё» — не случайность. В XIX веке в документах фамилию могли писать и как «Шмаргалев», и как «Шмаргалёв». Форма с «ё» точнее передаёт произношение (ударение падает на последний слог: Шмаргалёв), и именно она закрепилась как нормативная. Встречаются однокоренные фамилии: Шмаргаль, Шмаргаленко, Шмаргальский — все они вышли из одного гнезда, но суффикс -ёв указывает на великорусское (московское) происхождение, в отличие от украинского -енко.

Таким образом, предок современных Шмаргалёвых, скорее всего, был человеком с живым, возможно, резким характером, за что и получил прозвище Шмаргаль. Фамилия недворянская, крестьянская или мещанская, что типично для прозвищ, образованных от глаголов бытовой сферы.