Фамилию Ярмаки стоит рассматривать сразу в двух ракурсах: как украинскую или белорусскую фамилию с характерным окончанием и как возможную форму множественного числа от прозвища. В русском языке фамилии на -их, -ых (типа Седых, Долгих) закрепились в северных и сибирских говорах, но Ярмаки — это скорее юго-западная модель. Окончание -и здесь указывает либо на множественное число (родоначальник — Ярмак, и его потомки стали «Ярмаками»), либо на форму родительного падежа: «из дома Ярмаков».

Основа фамилии — имя или прозвище Ярмак. Самое известное значение — географическое: Ярмак — это украинское название Ермака, казачьего атамана, покорителя Сибири. В украинском языке имя Ермак звучало как Ярмак (через «я» вместо «е»), и фамилия могла возникнуть как память о легендарном предке-казаке. Но есть и бытовая версия: в южнорусских и украинских говорах «ярмак» — это ярмо, часть упряжи для волов. Хомут или ярмо — вещь крестьянская, и прозвище Ярмак могли дать человеку, который делал упряжь, торговал ею или просто был крепким, «рабочим», как вол в ярме.

Словообразовательный суффикс в этой фамилии не выражен — окончание -и играет роль патронимического показателя, что типично для украинских фамилий. Если бы фамилия была русской, она звучала бы как Ярмаков. Форма Ярмаки встречается чаще в Черниговской, Полтавской и Харьковской областях, а также среди потомков украинских переселенцев на Кубани и Дальнем Востоке.

Сословно фамилия не элитарная — скорее всего, её носили казаки или крестьяне. В реестрах запорожских казаков встречаются Ярмаки, что подтверждает связь с вольным военным сословием. В современной России фамилия редкая, в основном сосредоточена в регионах, куда мигрировали украинцы в XIX–XX веках.