Фамилия Гершелис — почти наверняка еврейская, ашкеназского происхождения. Её основа — мужское личное имя Герш (Hirsch, в идишской передаче — Герш), которое означает «олень». В еврейской традиции это имя ассоциируется с коленом Нафтали: в благословении Якова прародитель этого колена сравнивается с «быстрым оленем» (Бытие 49:21). Имя было очень популярным среди ашкеназов, особенно в Германии, Польше и Литве.

Суффикс -ис (в оригинале -is) указывает на отчество: в литовско-белорусском регионе, входившем в черту оседлости, была распространена модель образования фамилий от имени отца с помощью суффикса -ис (или -ес). Таким образом, Гершелис буквально означает «сын Герша» или «Гершевич». Похожим образом образованы фамилии Абрамелис, Берклис, Ицковис.

Встречаются варианты написания: Гершелес, Гершель, а также более германизированная форма Гершович. Географически фамилия тяготеет к Литве и северо-западным губерниям Российской империи — Ковенской, Виленской, Гродненской. Именно оттуда, с территории современной Литвы и Беларуси, происходят большинство носителей этой фамилии, которые позже мигрировали в США, Израиль, Южную Африку и другие страны.

Имя Герш в идишской среде нередко давали в паре с библейским именем Цви (Цви — «олень» на иврите). Поэтому человека могли звать Цви-Герш, а фамилию записать по второму, бытовому имени. Сама фамилия Гершелис — одна из тех, что сохранила не только имя предка, но и местный способ словообразования, который уже почти не встречается в современных фамилиях за пределами этой исторической области.