Фамилия Шердяева — женская форма от Шердяев, а та, в свою очередь, образована от прозвища или нецерковного имени Шердяй. Разговор о фамилии стоит начать с её основы: слово «шердяй» в русских говорах, особенно северных и центральных, могло означать человека неряшливого, неопрятного, небрежно одетого. В словаре Даля «шердяй» — это «оборванец, нечеса, неопрятный мужик». Казалось бы, прозвище нелестное, но в крестьянской среде его давали не столько для обиды, сколько для узнавания — как имена Некрас, Нелюб, Злоба. Они не несли постоянной характеристики, а служили отличительным знаком.

Суффикс -яй характерен для русских прозвищ, образованных от глаголов или прилагательных (например, Болтай, Молчун, Кривляй). В основе Шердяй лежит либо корень «шерд-» (от «шерда» — заноза, щепка, или «шердить» — ерошить, трепать), либо связь с диалектным «шерда» — так в некоторых регионах называли ссору, перебранку. Возможно, Шердяем прозвали сварливого, вздорного человека. Вторая версия менее распространена, но имеет право на существование: в псковских и тверских говорах «шердяй» — это ещё и мелкий лесной дух, леший, что могло стать основой для прозвища человека угрюмого или живущего в лесу.

Фамилия фиксируется в основном в центральных и северных губерниях России. В переписных книгах XVII века встречаются Шердяевы среди крестьян и посадских людей. Встречается она и в среде старообрядцев — в Поморье и на Вятке, где нередко давали прозвища по внешнему виду или поведению. Дворянских родов с такой фамилией не известно: это однозначно крестьянская или мещанская фамилия, что подтверждается её прозрачной, бытовой основой.

Редкий суффикс -яй делает фамилию отличной от массовых Шершавых, Шерстневых или Шербаковых. Если сравнивать с однокоренными, то Шердяев — более древняя по форме, сохранившая звучание прямого прозвища, а не отчества от прилагательного. Сегодня фамилия встречается нечасто, в основном в Архангельской, Кировской и Нижегородской областях.