Фамилия Ярмаков — довольно редкий случай в русском ономастиконе, и её происхождение не лежит на поверхности. В отличие от множества фамилий, образованных от крестильных имён (Иванов, Петров) или очевидных профессий (Кузнецов), основа «Ярмак» заставляет задуматься.

Самая вероятная версия — связь с тюркским словом «ярмак» (или «йармак»), что в ряде тюркских языков (татарском, башкирском, чувашском) означает «деньги», «монета» или «мелкая разменная монета». В этом случае прозвище Ярмак мог получить человек, имевший дело с деньгами: меняла, ростовщик, казначей или просто состоятельный крестьянин. Суффикс -ов указывает на типичную русскую модель образования фамилии от прозвища отца: «чей сын?» — Ярмаков, то есть потомок человека по прозвищу Ярмак.

Вторая версия, менее распространённая, но тоже имеющая право на существование, — происхождение от имени собственного Ермак. В диалектах и старых записях встречается форма «Ярмак» как вариант имени Ермак (ср. Ярмак Тимофеевич — одно из имён покорителя Сибири). Имя Ермак, скорее всего, тюркского происхождения (от «эрмек» — «отдых» или «ер» — «муж, человек»). В таком случае Ярмаков — это вариант фамилии Ермаков, закрепившийся в письменных источниках из-за особенностей местного произношения (яканья).

Географически фамилия Ярмаков тяготеет к регионам Поволжья и Урала — зонам активных русско-тюркских контактов. В старых переписных книгах Казанской, Симбирской и Оренбургской губерний можно встретить крестьян и служилых людей с такой фамилией. Сословно это были в основном государственные крестьяне, реже — однодворцы.

Поскольку обе версии ведут к тюркскому корню, можно уверенно сказать: предки современных Ярмаковых жили на стыке культур, а их прозвище было связано либо с деньгами, либо с личным именем, популярным в среде казачества и служилых людей.