Фамилия Ярмола образована от аналогичного имени, которое представляет собой вариант крестильного мужского имени Ермолай, означающего в переводе с греческого языка «вестник народа». Одним из покровителей этого имени считается святой мученик Ермолай, который за проповедь веры Христовой после мучений был обезглавлен в IV в. В украинском и белорусском языках имя могло превратиться в родовое именование без оформления каким-либо суффиксом. Так, в Книге памяти Акмолинской области упоминается главный кондуктор Ярмола Николай Павлович, родившийся в 1883 году в селе Красное Конопатского района Черниговской области.