Фамилия Герштейн — составная, из двух немецких корней: Ger («метательное копьё») и Stein («камень»). Такая модель типична для немецких фамилий-прозвищ, которые описывали занятие или характер человека. Скорее всего, предок носителя этой фамилии либо владел копьём (был воином, охотником), либо славился твёрдостью, подобной камню. Встречается и другая трактовка первой части: Ger может восходить к имени Герхард или к слову Gär — «дрожжи», но версия с копьём более распространённая и надёжная.

В отличие от славянских фамилий на -ов/-ев или -ин, Герштейн сохранила немецкую основу без адаптации суффиксами. Это указывает на то, что фамилия сложилась в немецкоязычной среде, вероятно, у евреев-ашкеназов, которые в XVIII–XIX веках часто брали составные фамилии из двух значащих слов. Среди носителей — российский литературовед Эмма Григорьевна Герштейн и физик-теоретик Семён Соломонович Герштейн, член-корреспондент РАН. Распространена фамилия преимущественно в России и странах бывшего СССР, что связано с миграцией немецких евреев в Восточную Европу.