Фамилия Ельмаков образована по продуктивной модели с суффиксом -ов, который в русской ономастике закрепился за фамилиями, произошедшими от прозвищ или мирских имён на твёрдый согласный. Основа здесь — Ельмак. Что скрывается за этим прозвищем, вопрос не с одним ответом.

Самая прямая версия — связь с деревом ель. Ельмаком в северных и сибирских говорах могли назвать человека, жившего в еловом лесу, занимавшегося заготовкой еловой древесины или просто обладавшего колючим, неуживчивым характером, который сравнивали с еловыми иголками. В этом случае фамилия встаёт в один ряд с Ельниковым, Еловым, Елькиным. Но есть и другой корень.

В русских диалектах, особенно на Урале и в Прикамье, известно слово «ельмак» — так называли большой кожаный или холщовый мешок для провизии в дорогу. Прозвище Ельмак могли дать запасливому человеку, торговцу, возчику или тому, кто всегда носил с собой котомку. Эта версия менее очевидна, но именно она даёт фамилии индивидуальность: Ельмаковых среди «еловых» фамилий меньше, а связь с конкретным бытовым предметом — редкость.

Третий вариант — искажённое тюркское имя или прозвище. В татарском и башкирском языках есть корень «ел» (ветер, год) или «иль» (родина, страна). В таком случае Ельмак могло быть адаптированным к русскому произношению именем Ильмак или Елмак. Это объясняет, почему фамилия встречается в Поволжье и на Урале — в зоне активного русско-тюркского контакта. Спор между версиями решает география: если корни семьи из Архангельской или Вологодской области, вернее говорить о ели или мешке; если из Оренбуржья или Башкирии — стоит присмотреться к тюркскому следу.

В документах фамилия фиксируется с XVIII века. В ревизских сказках Пермской губернии 1762 года упоминаются крестьяне Ельмаковы в Кунгурском уезде — скорее всего, потомки тех, кого прозвали за дорожную котомку. Сословно фамилия почти всегда крестьянская или мещанская, дворянских родов Ельмаковых в гербовниках нет.