Основой фамилии Гершун послужило имя Неффалим. Фамилия Гершун восходит к древнееврейскому библейскому имени Неффалим. Позже это имя-символ было переведено на идиш — Hersch (Герш). Чередование согласных г/х возникло в результате русификации фамилии. Основой же для фамилии послужила просторечная форма этого имени – Гершуня. Менее правдоподобной представляется связь фамилии с польским словом herszt – «главарь, атаман». Таким образом, потомок человека, обладающего именем Герш, со временем получил фамилию Гершун.