Фамилия Шельмагина — женская форма фамилии Шельмагин. Её основа восходит к прозвищу Шельмага, которое, скорее всего, образовано от слова «шельма» с уменьшительно-пренебрежительным суффиксом -аг- (как в словах «бедняга», «здоровяга»). В русских говорах «шельма» означала не только плута или мошенника, но и ловкого, хитрого человека, а иногда — просто «беднягу» или «неудачника» (в зависимости от контекста и интонации). Таким образом, Шельмагой могли прозвать как озорника и пройдоху, так и того, кого жалели.

Фамилия Шельмагин — типичная для северных и центральных областей России, где суффикс -ин указывает на принадлежность: «чей?» — Шельмагин, то есть сын или потомок Шельмаги. В отличие от фамилий на -ов/-ев, которые чаще встречаются на юге, модель на -ин преобладала в новгородских и псковских землях, а также в Сибири, куда переселялись северяне. Встречается она нечасто: по данным открытых телефонных справочников, большинство носителей сосредоточено в Кировской и Нижегородской областях, а также в Удмуртии.

Стоит отметить, что прозвище Шельмага могло быть не только личным, но и «уличным» — таким, которое закреплялось за родом в деревне. В документах XVII–XVIII веков подобные прозвища фиксировались как вторые имена: например, в переписных книгах Вятки встречаются крестьяне с прозвищем Шельма, а Шельмага — его производная, возможно, более мягкая по тону.

Сравнение с однокоренными фамилиями (Шельмин, Шельмаков, Шельманов) показывает, что Шельмагин — одна из редких форм, где суффикс -аг- сохранил прозвищный оттенок. В отличие от фамилий на -ов, которые часто образовывались от полных форм, здесь мы видим живую, разговорную основу — такую, какая бытовала в быту. Никаких дворянских корней у этой фамилии нет: её носители, скорее всего, были крестьянами или посадскими людьми, а прозвище отражало характер или поведение предка, а не его профессию.