Фамилия Герценберг — составная, типичный образец искусственных фамилий, которые массово создавали у евреев Европы в конце XVIII — начале XIX века. В отличие от фамилий, возникших из прозвищ или названий ремесел, такие фамилии конструировали из двух немецких корней, часто с произвольным или метафорическим значением. Именно к этому типу относятся причудливые сочетания вроде Вейценбаум («пшеничное дерево»), Зауэрштром («кислый поток») или Цигенбаум («козье дерево»).

Разберем словообразовательную модель. Первая часть — Герцен. Здесь возможны два объяснения. Самое прямое: это форма родительного падежа от имени Герц (Gertz), уменьшительной формы от имени Гершон или от немецкого Herz («сердце»). Вторая версия сложнее: компонент Герцен мог быть калькой с еврейского имени Лев («сердце»). То есть фамилия могла означать не «сердце горы», а «гора человека по имени Герц» или «гора, названная Сердцем». В любом случае, вторая часть — Берг — однозначно переводится с немецкого как «гора».

Суффикса в привычном русском понимании у фамилии нет: она сложена напрямую из двух корней без соединительной гласной, что характерно для немецкой модели сложения слов. В русском языке фамилия сохранила исходное написание, не обрусела и не получила окончания -ов или -ин, что сразу указывает на её позднее, не крестьянское происхождение. Носители такой фамилии в Российской империи принадлежали к городским сословиям — мещанам или купцам, а не к крепостным, которым фамилии часто давали по отцу или помещику.

Спор о том, считать ли первую часть «сердцем» или именем, не имеет однозначного решения. Версия с именем Герц проще и правдоподобнее: искусственные фамилии часто строили от личных имён, прибавляя к ним второй корень. Версия с «сердцем» красивее, но она требует допущения, что чиновник, записывавший фамилию, намеренно переводил еврейское имя на немецкий, что случалось реже.