Фамилия Гринберг — одна из тех, что без словаря читается почти прозрачно: зелёный и гора. Прозвище, а затем и фамилия сложились из двух немецких корней: grün («зелёный») и Berg («гора», а также «рудник», «высокогорное пастбище» или «виноградник»). Такие составные фамилии типичны для немецкой ономастики, и Гринберг стоит в одном ряду с Ротенбергом («красная гора») или Вайсенбергом («белая гора»).

Самая прямая версия: прозвище Гринберг дали человеку, который жил у горы, поросшей зеленью, — в долине или на склоне. Но слово Berg в немецких говорах имело и более узкие значения: так называли не просто возвышенность, а пастбище в горах или виноградник на террасированном склоне. Поэтому предок-носитель фамилии мог быть пастухом, выгонявшим скот на альпийские луга, или виноделом, чей участок располагался на прогреваемом солнцем склоне. В горнорудных районах Berg — ещё и рудник, но для Гринберга эта версия менее вероятна: «зелёный» цвет редко связывали с шахтой.

Фамилия не получила широкого распространения в крестьянской среде Германии — она скорее городская или местечковая. В XVIII–XIX веках многие носители фамилии оказались в Восточной Европе, в том числе в черте оседлости Российской империи. Там Гринберги нередко записывались уже как еврейские фамилии: немецкая основа не мешала, а модель образования (Grün + Berg) была понятна и канцеляристам, и самим носителям.

В отличие от фамилий на -ов или -ин, Гринберг не присоединял русских суффиксов и сохранил исходную форму. В документах встречаются варианты написания: Гринберг, Гринбергъ, изредка Гринберк — из-за оглушения конечного согласного в русском произношении. Но основа остаётся неизменной, и этимология прозрачна: зелёная гора, зелёный склон.