Фамилия Гремяков образована от прозвища или нецерковного имени Гремяк. В основе лежит глагол «греметь» или родственное ему слово. Чаще всего так в старину называли человека с громким голосом, крикливого, шумного — того, кто «гремит» на всю округу. Но есть и другая, не менее вероятная версия: Гремяком могли прозвать кузнеца или молотобойца — работа у горна и наковальни создавала постоянный грохот, и прозвище становилось профессиональным. В говорах слово «гремяк» фиксировалось и в значении «колокольчик, бубенчик» — тогда прозвище мог получить любитель звонкой упряжи или тот, кто торговал подобными вещами.

Модель образования типична для русских фамилий: суффикс -ов указывает на принадлежность («чей сын?» — Гремяков). То есть первоначально это было отчество: сын Гремяка. Фамилия недворянская, скорее всего, крестьянская или посадская — такие прозвища были распространены в среде простых людей, где меткое слово легко прилипало к человеку.

Встречается фамилия в разных регионах, но заметна её концентрация в центральных и южнорусских областях — там, где акающий говор и где слово «гремяк» бытовало в народной речи. Встречаются однокоренные фамилии: Гремячихин, Гремилов, Гремухин — все они из того же гнезда, но с разными суффиксами, что говорит о самостоятельном, а не едином происхождении.

Спорных версий у Гремякова немного. Иногда его пытаются связать с топонимом Гремячий (овраг, ручей, ключ), но это менее вероятно: фамилии от названий сел и рек обычно имеют суффикс -ский (Гремячевский, Гремячинский). Гремяков же — чисто отчество, и его корень — в прозвище человека, а не в географическом объекте.