Крестильное мужское имя Ермолай в переводе с греческого означает «вестник народа». В основу фамилии легла производная форма этого имени, распространенная у чувашей — Ярмушка. Таким образом, потомок человека, обладающего именем Ярмушка, со временем получил фамилию Ярмушкин.