Фамилия Герценштейн — типичный пример искусственного еврейского именования, составленного из двух немецких корней. Первая часть, Герцен, восходит к имени Герц (Gertz) — краткой форме древневерхненемецкого имени Герхард (Herz, «сердце»). Вторая часть — Stein, что по-немецки значит «камень». Такие двусоставные фамилии на -штейн были особенно популярны среди ашкеназских евреев в XIX веке: их часто давали при принудительной паспортизации в Австрийской и Российской империях, когда чиновники составляли фамилии из двух произвольно соединённых немецких слов.

Словообразовательная модель здесь прозрачна: основа личного имени (Герц) плюс формант -ен- (показатель родительного падежа, означающий принадлежность) и корень Stein. Буквально Герценштейн можно перевести как «камень Герца» или «камень, принадлежащий Герцу». Фамилия не указывает на профессию или место жительства — это чисто декоративное, «благозвучное» образование, которое должно было звучать по-немецки солидно.

В документах начала XX века носители фамилии фиксируются с указанием национальности «еврей». Например, в Ленинграде в 1891 году родился Григорий Григорьевич Герценштейн. Встречаются также записи о Герценштейне Израиле Абрамовиче (1905 г.р.) и о Киве Исаевиче Герценштейне, родившемся в 1913 году в китайском городе Маньчжурия — факт, который указывает на миграцию части семьи на Дальний Восток, возможно, через Харбин, где существовала крупная еврейская община.

Географически фамилия рассеяна: помимо Российской империи и Китая, ветви Герценштейнов встречаются в Польше, Германии и США. В России она не получила широкого распространения; её носители — почти исключительно потомки еврейских семей, получивших фамилию в черте оседлости или в Царстве Польском.

Других версий происхождения — от славянского корня или от топонима — для этой фамилии нет. Состав «личное имя + Stein» слишком характерен для искусственных еврейских фамилий, чтобы считать её случайной или переосмысленной.