Фамилия Шердаков — одна из тех, что заставляют задуматься о прозвище предка. Её основа, «шердак», в русских говорах звучала по-разному, но почти всегда с оттенком щепетильности или мелочности. В словаре Владимира Даля «шердак» — это привередливый, капризный человек, тот, кто «шердится», то есть ломается, жеманится, придирается по пустякам. Прозвище могли дать обидчивому или разборчивому в еде и быту крестьянину. Вторая версия, менее распространённая, связывает корень с диалектным «шерда» — заноза, щепка. Тогда прозвище могло относиться к человеку худощавого телосложения или, напротив, колкому на язык.

Модель образования типична для центральной России: основа на твёрдый согласный плюс суффикс принадлежности -ов. Шердак → Шердаков — буквально «сын Шердака» или «из рода Шердаковых». Суффикс -ов указывает, что фамилия сложилась не позднее XVII–XVIII веков, когда в среде служилых и крестьянских людей закрепилась эта патронимическая форма. Встречается она преимущественно в Поволжье и на Урале. По данным переписей, Шердаковы были крестьянами и мещанами, а в некоторых уездах — старообрядцами, что объясняет сохранение редкого прозвища в замкнутых общинах.

Интересно, что у фамилии есть «двойник» — Шердяков, где основа та же, но с более мягким произношением. Оба варианта восходят к одному корню, и в старых метрических книгах можно встретить чередование написаний. Спор между версиями «привередливый» и «худой» неразрешим без конкретной родословной, но лингвисты склоняются к первому значению: прозвища по характеру в русской антропонимии встречаются чаще, чем по внешности.