Фамилия Гершензон (в немецком написании Gerschensohn) восходит к двум основам: «гершен» и «зон». Основа «гершен», предположительно, является вариантом еврейского имени Гершон, которое происходит от слова «герш», имеющего значение «изгнанный». Имя Гершон принадлежало одному из героев древнего еврейского писания Танах — сыну Леви и внуку Яакова. Вторая основа «зон» переводится с немецкого как «сын». В целом, имя Гершензон переводится как «сын Гершона». Ашкеназские фамилии оформляются формантами -сон/-зон (в буквальном переводе «сын»), -ман («человек, мужчина, муж»), -кинд («ребенок»), -бейн («кость»), -штам («ствол»), -ер, -с. Евреи Израиля часто имеют фамилии, оформленные еврейскими суффиксами принадлежности –ис/-ес, -и, приставкой бен- (в переводе с иврита «сын») и артиклем принадлежности к роду Га-.