Фамилия Громаков образована от прозвища Громак. В народе так могли называть человека, который говорил или смеялся очень громко, шумно, буквально «гремел». Слово «гром» в русских говорах имело и переносное значение — так говорили о человеке бойком, веселом, с раскатистым голосом. Модель образования проста: к основе «Гром-» добавили суффикс «-ак», который в восточнославянских фамилиях часто указывал на носителя признака (сравните: «весельчак», «гуляка»). А окончание «-ов» сделало прозвище родовым именем, отвечающим на вопрос «чей?» — то есть сын или потомок Громака.

В отличие от более частых фамилий Громов и Громовский, форма с суффиксом «-ак» встречается реже. Это указывает на то, что прозвище Громак могло бытовать в определенных говорах, где такой словообразовательный тип был активнее, — возможно, в южнорусских или украинских диалектах. В украинском языке, к примеру, «громак» может означать не только громкого человека, но и того, кто производит много шума при работе, например, кузнеца или плотника. Вторая версия происхождения, хоть и менее вероятная, связывает прозвище с глаголом «громить» — в этом случае предок мог быть воином или человеком крутого нрава.

Искать носителей фамилии стоит в центральных и южных областях России, а также на востоке Украины. В старых документах фамилия Громаков встречается с XVIII века среди крестьян и однодворцев. Дворянских родов с такой фамилией не зафиксировано, поэтому основная среда бытования — сельская местность, где прозвища закреплялись за целыми семьями.