Первая ее часть восходит к немецкому слову Herz – «сердце», которое, в свою очередь, является переводом еврейского имени Lev («сердце»), соответствующего арабскому Lab, испанскому Llop и португальскому Boujo. Известно, что еврейское Lev – это имя, заменяющее каноническое иудейское имя Нафтали (Левий), которое носил шестой из двенадцати сыновей праотца еврейского народа Иакова. По другой версии, имя Герц (Gertz) является краткой формой немецкого имени Герхард, состоящего из двух частей: gār, gēr - «копье» и hard - «сильный, смелый». Компонент «берг» восходит к немецкому слову Berg – «гора» и в данном случае выполняет роль суффикса. Так, известен еврей Герцберг Александр Владимирович, который родился в 1892 году в Курляндской губернии. А в Базе данных «Польские спецпереселенцы в Вологодской области» записан еврей Герцберг Мендель Хилевич, рожденный в 1878 году (Варшавское воеводство, Макув).