Фамилия Грумберг образована от аналогичного прозвища, которое состоит из двух частей: Grum и Berg. Первая из них восходит к немецкому слову Grum, которое на русский язык переводится как «грязь». Второй компонент ведет свое начало от слова Berg, означающее в переводе с немецкого языка «гора». Вполне вероятно, что прозвище Грумберг отражает особенности места жительства предка.