Фамилия Шаршаков — редкий случай, когда прозвище, от которого она образована, скорее всего, не характеризовало человека, а описывало предмет его труда или место жительства. В основе лежит прилагательное «шаршавый» — шершавый, шероховатый, с неровной поверхностью. В русских говорах слово имело и переносное значение: угрюмый, грубый, неуживчивый человек. Однако маловероятно, что фамилию дали напрямую по характеру: прямое прозвище Шаршавый было бы обидным и неудобным в быту.

Куда правдоподобнее версия, что Шаршаков — это «профессиональная» фамилия. В некоторых регионах «шаршавым» называли не человека, а необработанное дерево, кору, лыко или грубую ткань. Предок мог быть мастером по обработке лыка, мочала или коры — ремесленником, который делал рогожи, кули или веревки из шершавого, неочищенного сырья. Или же он жил на «шаршавой» земле — каменистой, поросшей кустарником, непригодной для пахоты. Суффикс -ов указывает на принадлежность: «сын Шаршака», где Шаршак — разговорная форма того же прозвища.

Фамилия редкая, встречается в основном в центральных и северных областях России, а также в Поволжье. Встречаются варианты написания через «о» — Шоршаков, что связано с акающим произношением. В дореволюционных переписях Шаршаковы фиксировались в среде государственных крестьян и мещан, среди дворянства фамилия не отмечена.

Слово «шаршавый» родственно диалектному «шершавый» и общеславянскому корню *sьršavъ. В ономастических справочниках (например, у Б. Унбегауна) фамилия не разбирается отдельно, но её модель вписывается в типичный ряд прозвищных фамилий от качественных прилагательных с суффиксом -ов. Если искать однокоренные фамилии, то ближе всего Шершаков и Шершавин — обе образованы от того же корня, но с разными суффиксами.