Фамилия Шергулов образована от прозвища или нецерковного имени Шергул. Её основа — тюркское слово «шер» (лев, тигр) и суффикс «-гул», который в тюркских языках часто встречается в личных именах со значением «слуга», «раб» (в контексте «раб Божий»). Таким образом, Шергул можно перевести как «лев Божий» или «тигр Божий» — имя-оберег, которое давали с пожеланием силы и защиты. Подобные составные имена были характерны для татар, башкир, казахов и других тюркских народов, особенно в XVI–XVII веках.

Русский суффикс «-ов» указывает на патронимическое происхождение: Шергулов — «сын Шергула». Фамилия могла возникнуть в среде служилых татар или крещёных тюрков, которые после присоединения Казанского и Астраханского ханств входили в состав Русского государства. Носители фамилии нередко оседали в Поволжье, на Урале или в южнорусских областях, где были контакты с тюркским населением.

Слово «шер» (через персидский šēr) в тюркских языках означает крупного хищника, но в прозвищах оно часто несло не буквальный, а метафорический смысл — «смелый», «бесстрашный». Поэтому Шергулом могли назвать храброго воина или вожака. Альтернативная версия связывает основу с тюркским «шер» (глина, ил) — тогда прозвище относилось к гончару или человеку, жившему у глинистого берега. Однако это предположение менее распространено, так как в ономастике тюркские имена с компонентом «шер» в значении «хищник» встречаются гораздо чаще.

Фамилия редкая, в списках дворянских родов не зафиксирована. Её носители, вероятнее всего, были крестьянами или посадскими людьми тюркского происхождения, которые со временем полностью обрусели. Встречаются варианты написания Шергулов и Шергулев (второй — под влиянием мягкого произношения основы). Однокоренные фамилии — Шергин, Шершаков, Шерстобитов — имеют другую этимологию и к Шергулову прямого отношения не имеют.