Фамилия Шершалов образована от прозвища или нецерковного имени Шершал. В его основе лежит прилагательное «шершавый» — шероховатый, неровный на ощупь. Так могли прозвать человека с грубой кожей, огрубевшими от работы руками, либо того, кто носил неладную, топорщащуюся одежду. В говорах слово «шершавый» имело и переносное значение — неуживчивый, резкий в общении, «колючий» человек. Скорее всего, прозвище давалось по внешнему признаку или по складу характера, и оба варианта правдоподобны.

Модель образования типична для русских фамилий: суффикс -ов присоединился к основе Шершал. Сама основа — это усеченная или переоформленная форма прилагательного «шершавый». В русской антропонимии нередки случаи, когда полное прилагательное превращалось в прозвище с помощью суффикса -л-: Шершавый — Шершал (по аналогии с Кривой — Кривал, Хромой — Хромал). Такие формы фиксируются в исторических документах, хотя Шершал встречается реже, чем, скажем, Шершавцев или Шершавин.

Родственные фамилии — Шершавин, Шершавцев, Шершаков. Все они восходят к тому же корню, но образованы разными суффиксами. Шершалов выделяется среди них именно формантом -ал-, который в русских фамилиях встречается нечасто и обычно указывает на прозвищное происхождение от глагольной или адъективной основы (ср. Дергал, Ломал, Качалов). Это делает фамилию заметной на фоне более массовых моделей.

Точных географических данных о распространении фамилии Шершалов в открытых источниках мало. Можно предположить, что она бытует в центральных и северных областях России, где диалектное слово «шершавый» было особенно употребительно. Встречается она нечасто, что косвенно подтверждает её происхождение от индивидуального прозвища, а не от массового ремесла или общего имени.