Фамилия Ярмачок — редкий случай, когда в основе лежит не имя и не ремесло, а место, причём не географическое название, а бытовое обозначение пространства. В отличие от большинства украинских и польских фамилий на -чук, -ак или -ок, эта образована не от имени отца, а от прозвища, которое закрепилось за человеком из-за его связи с ярмаркой.

Корень здесь — «ярмак» или «ярмач», то есть человек, имеющий отношение к ярмарке. В украинском и белорусском языке «ярмак» — это либо мелкий торговец, который ездил по ярмаркам, либо просто частый гость торжищ. Суффикс -ок в восточнославянских фамилиях часто выполняет уменьшительную или принадлежную функцию: Ярмачок мог означать «сын Ярмака» или «маленький Ярмак» — так прозвище могли передать следующему поколению. Модель образования типична для украинских фамилий, где суффикс -ок нередко заменяет более распространённое -енко (сравните: Коваль — Ковальчук, но возможен и Ковалёк).

Интересно, что фамилия почти не встречается за пределами западных областей Украины — Волыни, Подолья, Галичины. Это указывает на её локальное бытование: в центральной или восточной Украине предпочли бы форму Ярмаченко, а в России — Ярмаков. Ярмачок остался в том ареале, где суффикс -ок сохранял продуктивность дольше, чем в других регионах.

Версия о происхождении от личного имени Ярмак (краткая форма от Ермолай или Яромир) менее правдоподобна. Фамилии от канонических имён обычно имеют суффиксы -ов или -ин, а -ок в таком случае был бы нетипичен. Кроме того, имя Ярмак в украинской традиции почти всегда связано с ярмаркой, а не с церковным календарём. Так что наиболее вероятно, что первый носитель фамилии был коробейником, скупщиком или просто человеком, которого знали как завсегдатая ярмарочных площадей.