Фамилия Шкердов — редкий случай, когда происхождение упирается в одно-единственное слово, но трактовка его неочевидна. Основа «шкерд» или «шкерда» — это диалектное название растения, известного как скерда (Crepis). В русских говорах, особенно на юге и западе, «шкердой» называли сорную траву с жёлтыми цветами, похожую на одуванчик. Прозвище Шкерда могли дать человеку либо за худобу и долговязость (стебель у скерды высокий и тонкий), либо за приставучесть — плоды растения цепляются за одежду. Второй, менее вероятный вариант — искажённое «шкерт» или «шкерть» (от польского szkart — «обрывок, лоскут»), но в фамилиях на -ов такая основа почти не встречается.

Суффикс -ов указывает на типичную русскую модель образования от прозвища или названия профессии: «чей?» — Шкердов, то есть сын или потомок Шкерды. Фамилия явно крестьянская, без дворянского оттенка, и географически привязана к регионам, где бытовало слово «шкерда» — это южнорусские области (Курская, Воронежская, Ростовская) и смежные территории Украины. В дореволюционных переписях Шкердовы встречаются единично, что подтверждает редкость фамилии: она не попала в массовые списки мещан или купцов, а осталась локальным прозвищным именованием.

Интересно, что фамилия сохранила архаичное написание с буквой «е» после «р» — Шкердов, а не Шкирдов. Это указывает на то, что в говоре предков гласный звук был именно «е», а не «и». Если бы основа звучала как «шкырда» (от «шкырять» — царапать, драть), фамилия писалась бы иначе. Таким образом, Шкердов — это «растительная» фамилия, родственная более известным Скердиным или Одуванчиковым, но гораздо более редкая и узко локальная.