Фамилия Шаршавых — один из ярких примеров «архангельского» или «северного» типа русских фамилий. Её выдает суффикс -ых, который в центральной России почти не встречается. Такие фамилии (Косых, Седых, Чёрных) были особенно распространены в Поморье, на Двине и в Сибири, куда переселялись северяне. Они отвечали на вопрос «чей?» или «из чьей семьи?» и указывали на принадлежность целому роду: Шаршавые — значит «из семьи Шаршавого».

Основа фамилии — прозвище Шаршавый. В русских говорах у слова «шаршавый» несколько значений, и все они связаны с тактильными ощущениями. Основное — «шероховатый», «неровный на ощупь», «с заусенцами». В переносном смысле так могли назвать человека с грубой кожей, с жёсткими волосами или неопрятного, с торчащей одеждой. В диалектах встречается и более конкретный смысл: в некоторых местах «шаршавым» называли человека с плохим зрением, который щурится и трёт глаза — то есть буквально «трёт до шершавости».

Интересно, что у фамилии нет варианта на -ов (Шаршавов), который был бы логичен для центральных областей. Это дополнительно подтверждает её северное происхождение. Встречается она и в форме Шаршавых, и с ударением на второй слог — Шарша́вых, что тоже характерно для поморской традиции произношения.

Менее вероятная, но возможная версия связывает прозвище с тюркским или финно-угорским субстратом. Слово «шаршавый» может быть родственно татарскому «шарш» — «колючий», «жёсткий». Однако для русского уха это звучит как исконное прилагательное, и большинство ономастов считают его славянским по происхождению.

Таким образом, предок носителя фамилии Шаршавых, скорее всего, жил на Русском Севере и получил прозвище за внешний вид или особенности характера — за шероховатость, негладкость, будь то кожа, волосы или нрав. Фамилия не указывает на сословие: её могли носить и крестьяне, и посадские люди, и даже священники, если они происходили из той же местности.