Фамилия Шемаргин образована по типичной для русских фамилий модели: к основе прибавили суффикс принадлежности -ин. Этот суффикс в русском языке чаще всего указывает на родство по отцу: Шемаргин — сын Шемарги. Основа фамилии — прозвище Шемарга.

Корень «шемар» не самый прозрачный, и здесь возможны два основных объяснения. Первое и самое вероятное: Шемарга — это прозвище, связанное с диалектным глаголом «шемаргать» или «шемаркать». В северных и уральских говорах это слово означало «шарить, рыться, копаться», а также «делать что-то небрежно, кое-как». Человек с таким прозвищем мог получить его за манеру копаться в вещах, быть неаккуратным или суетливым. В ономастике есть параллельные фамилии — Шемарков, Шемарыкин, что подтверждает живое бытование этого корня в прозвищной среде.

Вторая версия, менее распространённая, но не исключённая: Шемарга может быть производной формой от крестильного имени. В этом случае основой могло послужить имя Шемяка (сокращение от Шемяка, которое, в свою очередь, связано с древнерусским именем Шемяка, возможно, тюркского происхождения). Однако такая связь требует дополнительных доказательств, и для фамилии Шемаргин версия с прозвищем от глагола выглядит более прямой и естественной.

Географически фамилия Шемаргин тяготеет к северу России. Наибольшая концентрация носителей традиционно фиксируется в Архангельской области, а также в соседних регионах — Вологодской и Кировской областях. Это косвенно подтверждает севернорусское диалектное происхождение прозвища. В XIX веке Шемаргины встречались среди крестьян и мещан, в основном в Олонецкой и Вятской губерниях.

Интересная деталь: в некоторых переписях XIX века фамилия записывалась с «ять» на конце — Шемаргинъ, а также встречался вариант Шемаргин с двойным «г» (Шемаргинн), что объясняется местными особенностями произношения и записи. Однако современный стандарт написания закрепился в форме с одним «г». Таким образом, фамилия Шемаргин — это типичный пример «говорящей» фамилии, которая прямо указывает на прозвище предка, связанное с его поведением или привычкой.