Фамилия Шершина образована по самой распространённой в русской ономастике модели — с помощью суффикса -ин, который указывает на принадлежность: «чей?» — «Шершин», то есть потомок человека по прозвищу или имени Шерша. Женская форма Шершина — это грамматическое изменение, а не отдельная фамилия.

Основа фамилии — прозвище Шерша. В русских говорах слово «шерша» имело несколько значений. Самое прямое — «шероховатый, неровный», откуда прозвище могли дать человеку с грубой кожей, неопрятному или, наоборот, с жёстким характером. Но есть и более конкретная версия: в диалектах Архангельской и Вологодской областей «шерша» — это вид мелкой рыбы (ёрш или бычок). Тогда прозвище могло принадлежать рыбаку или человеку небольшого роста, колючего нрава.

Менее вероятна, но возможна связь с глаголом «шершить» — «ерошить, взъерошивать». В этом случае прозвище давали человеку с торчащими волосами или небрежной причёской. Слово «шершень» (насекомое) тоже лежит на поверхности, но для фамилии Шершина оно не подходит: от «шершень» образовалась бы форма Шершнёв, а не Шершин.

Фамилия встречается преимущественно в центральных и северных областях России, особенно в Тверской, Ярославской и Костромской губерниях — там, где слово «шерша» фиксировалось в местных говорах. В архивных записях XVII–XVIII веков встречаются крестьяне и посадские люди с этой фамилией, что говорит о её простонародном происхождении: дворянских родов Шершиных не зафиксировано.

Однокоренные фамилии — Шершов, Шершаков, Шерстобитов — все они восходят к тому же кругу значений, но Шершина стоит особняком из-за суффикса -ин, который указывает на прямое родство с конкретным человеком по прозвищу Шерша, а не на занятие или внешний признак в общем виде.