Фамилия Грамяк — редкий случай, когда прозвище сохранилось почти без изменений, минуя стандартные патронимические суффиксы. В ней нет типичного -ов или -ин, она застыла в форме, близкой к исходному слову. Это указывает на украинское или белорусское происхождение: в этих культурах фамилии на -ак, -як, -ук встречаются гораздо чаще, чем в великорусских землях.

Основа фамилии — «грам» или «грем». Самая очевидная и правдоподобная версия связывает её с глаголом «греметь», «грянуть». Прозвище Гремяк (в диалектном произношении — Грамяк) могли дать человеку с громким голосом, шумливому, резкому в движениях или тому, кто любил производить много шума при работе. Реже — человеку, жившему у шумного ручья или водопада, но прозвища по месту жительства обычно давали через суффикс -ский.

Менее вероятная, но не исключённая версия — связь с диалектным словом «грам» (в некоторых говорах — ссора, шум, брань). Тогда Грамяк — это сварливый, неуживчивый человек, задира. В любом случае, значение лежит в области звуковой характеристики человека.

Фамилия не относится к дворянским и не встречается в старых родословных книгах. Скорее всего, она бытовала среди крестьян или казаков Западной Украины, Полесья или южных областей Беларуси. В современных российских базах она попадается редко, что подтверждает её локальный и нетитульный характер.