Фамилия Шилемин — редкий пример, где основа не лежит на поверхности и не даёт однозначного ответа. Самое вероятное объяснение ведёт к прозвищу или нецерковному имени Шилема. В русских говорах «шилема» или «шилем» могло означать человека с какой-то отличительной чертой, но что именно стояло за этим словом — вопрос открытый. Вариант: связь с глаголом «шилить» — колоть, протыкать, делать острым. Тогда Шилемой могли прозвать мастера, который точил ножи, шилья или работал с колющими инструментами. Менее убедительная версия — от тюркского имени Шилем (в значении «мой щит»), но для центральной России, где фамилия встречается чаще, это маловероятно.

Суффикс -ин указывает на принадлежность: Шилемин — «сын Шилемы» или «из семьи Шилемы». Такая модель типична для прозвищ и имён, оканчивающихся на -а, -я. Фамилия недворянская, скорее крестьянская или мещанская, и географически привязана к северным и центральным областям — Вологодской, Костромской, Нижегородской. В этих местах слово «шилем» могло бытовать как местное прозвище, но письменных свидетельств его значения почти не сохранилось.

Интересная деталь: фамилия Шилемин почти не встречается за пределами России и не имеет однокоренных «гнёзд» — ни Шилемов, ни Шилемских. Это говорит о том, что прозвище было редким и, возможно, даже единичным в конкретной местности. В словарях русских фамилий (например, у Б. Унбегауна) она не упоминается, что подтверждает её локальный и нечастый характер. Если предок носил такое прозвище, он был заметной фигурой в своей деревне — либо по ремеслу, либо по внешности, но что именно скрывалось за словом, сегодня можно только предполагать.