Прозвище Ярмак восходит к нарицательному «ярмо» — «деревянный хомут для упряжки рабочего рогатого скота». Возможно, что так называли либо мастера по изготовлению таких хомутов, либо крестьянина-землепашца. Поэтому вполне вероятно,что прозвище Ярмак относится к так называемым «профессиональным» именованиям, содержащим указание на род деятельности человека. Кроме того, слово «ярмо» имело и переносное значение — «бремя». Исходя из этого, можно предположить, что тот, кто носил прозвище Ярмак, был человеком с тяжелой, трудной судьбой. Согласно еще одной гипотезе, фамилия Ярмак образовалась от тюркского «ярмак» - «деньги». В этом случае, основатель рода мог быть зажиточным человеком, либо его деятельность была связана с деньгами. Не исключено также, что в основу данного прозвища легло диалектное слово «ярма», которое во владимирских говорах означает «мужеподобная, рослая, бойкая и смелая женщина». Соответственно Ярмаком могли называть того, кто воспитывался вдовой, прозванной Ярмой. Менее правдоподобной представляется связь фамилии Ярмак с уменьшительной формой мужского крестильного имени Ермолай — Ермак. Это имя в переводе с греческого означает «вестник народа».