Фамилия Гершзон восходит к двум германским основам: «герш» и «зон». Первая из них представляет собой личное имя Герш, которое, скорее всего, образовано от идиш основы Хирш, что значит «олень». Компонент «зон» означает «сын». Не исключено и то, что фамилия Гершзон относится к числу искусственных еврейских фамилий и не указывает на имя предка. В этом случае фамилия была придумана намеренно (и образована от произвольно выбранного слова — в данном случае от слова «олень») немецкими чиновниками, на которых была возложена обязанность обеспечить евреев фамилиями.