Фамилия Герценберг состоит из двух компонентов: Герцен и Берг. Первая ее часть — Герцен — происходит от имени Герц (Gertz). Согласно другой версии, компонент Герцен восходит к немецкому слову Herz – «сердце», которое, в свою очередь, является переводом еврейского имени Lev («сердце»), соответствующего арабскому Lab, испанскому Llop и португальскому Boujo. Вторая часть фамилии — Berg — в переводе с немецкого означает «гора». Скорее всего, фамилия Герценберг является искусственной. Например, только у евреев можно было встретить такие фамилии, как Вейценбаум, что в переводе с немецкого означало «пшеничное дерево», Зауэрштром – «кислый поток», Левенфиш – «рыба-лев», Цигенбаум – «козье дерево», Квечман – «высказываться неохотно».