Фамилия Гримберг — это типичный пример фамилии-композита, образованной по немецкой модели. В её основе лежат два корня: «грим» (grimm) — «суровый», «гневный», «свирепый», и «берг» (Berg) — «гора». Буквально фамилию можно перевести как «суровая гора» или «гневная гора». В отличие от славянских фамилий, которые часто заканчиваются на -ов или -ин, здесь мы видим прямой перевод сложного немецкого прозвища, которое могло относиться либо к человеку с тяжёлым, неприступным характером, либо к жителю местности, носившей такое название (например, замок или скала).

Словообразовательная модель проста: два существительных слились в одно без дополнительных суффиксов, что характерно для ашкеназских и немецких фамилий, возникших в XVIII–XIX веках. В немецкоязычной среде такие фамилии давали либо по названию дома (Hausname), либо по топониму. В России и Восточной Европе фамилия Гримберг закрепилась в основном у еврейского населения, которое получало фамилии в ходе массовых переписей и паспортизации в Российской империи в начале XIX века. Немецкое звучание не должно вводить в заблуждение: носители фамилии в большинстве своём были ашкеназскими евреями, а не этническими немцами.

С точки зрения географии, фамилия Гримберг встречается в Польше, Украине, Беларуси и Прибалтике, откуда в XIX веке мигрировала в США и Израиль. В дореволюционной России её можно было встретить в черте оседлости. Сословно носители фамилии относились к мещанам или купцам, реже к ремесленникам — никакого дворянского происхождения у этой фамилии нет.

Стоит упомянуть, что фамилия Гримберг не имеет отношения к братьям Гримм (собирателям сказок), хотя корень у них общий. Фамилия знаменитых лингвистов и фольклористов пишется как Grimm и происходит от того же слова «grimm», но без добавления «берг». Это два разных ономастических образования: Гримм — простое прозвище, Гримберг — сложное составное имя.