Фамилия Гершберг — типичный образец искусственного фамильного образования, характерного для ашкеназских евреев. Её составили из двух немецких корней: «Hirsch» (олень) и «Berg» (гора). В буквальном переводе она означает «оленья гора». Первая часть восходит к верхненемецкому слову hir(t)z, которое со временем стало использоваться как мужское имя Гирш (или Хирш) на идише. Вторая часть — Berg — встречается во множестве немецких топонимов (Розенберг, Узенберг и других), поэтому не исключено, что фамилия могла указывать на место рождения или жительства предка.

Менее убедительная версия связывает основу «гирш» с краткой формой женского имени Гертруда, означающего «мощное копьё». Однако в контексте еврейской ономастики связь с мужским именем Гирш и символикой оленя — колена Нафтали — выглядит гораздо правдоподобнее. Такие составные фамилии, как Вейценбаум («пшеничное дерево»), Зауэрштром («кислый поток») или Левенфиш («рыба-лев»), были распространены именно у евреев и часто создавались по приказу чиновников как искусственные, но благозвучные обозначения.

Среди известных носителей — советский астроном Роальд Евгеньевич Гершберг (род. 1933). Его научные работы посвящены физике нестационарных звёзд и межзвёздной среды. Он автор монографий «Вспышки красных карликовых звезд» (1970) и «Вспыхивающие звезды малых масс» (1978).