Фамилия Серманов восходит к названию реки Серман в Пензенской области. Сам гидроним обозначает «скрытое место». Видимо, предки рода Сермановых проживали в одном из поселений, расположенном на месте протекания этой реки. Кроме того, существует версия, что фамилия берет свои истоки из названия западно-эстонского острова Сааремаа. Возможно, на острове жили люди, давшие начало роду Сермановых.