Фамилия Гершуни — одна из тех, где форма неочевидна с первого взгляда. В ней нет привычного славянского суффикса -ов или -ин, зато есть конечное -и, которое в еврейской ономастике часто указывает на принадлежность к роду или месту. В основе фамилии лежит мужское имя Гершун — вариант библейского имени Гершон. В переводе с иврита оно означает «изгнанный»: в Танахе Гершон — первенец Левия, внук Иакова, и его потомки в колене Левитов несли особые храмовые обязанности.

Имя Гершон носили многие известные учёные, например, Гершон бен Иегуда (умер в 1040 году) — раввин и духовный поэт из Лотарингии, который закрепил в еврейском праве уже вошедшую в обычай моногамию. Фамилия Гершуни, скорее всего, образована по модели, типичной для ашкеназских евреев Восточной Европы: к основе имени добавляли формант -и, указывающий на происхождение (сравните с фамилиями Рабинович, Беркович, где -ич тоже несёт значение «сын»). Впрочем, встречается и версия, что -уни — это вариант суффикса -они, который у евреев Ирана и Кавказа мог означать принадлежность к семье или роду.

У горских евреев Кавказа фамилии часто оформлялись грузинским суффиксом -швили («дитя»), а у ашкеназов — формантами -сон/-зон («сын»), -ман («человек»), -кинд («ребёнок»), -штам («ствол»). Гершуни стоит в этом ряду особняком: её окончание не даёт однозначной географической привязки, но скорее указывает на регионы, где еврейские общины смешивали ивритскую основу с местными способами словообразования — например, в Польше, Литве или на Украине. В Израиле такие фамилии нередко сохраняют артикль Га- или приставку бен- («сын»), но Гершуни обходится без них, что говорит о её давнем бытовании в диаспоре.

Таким образом, носитель фамилии Гершуни, скорее всего, потомок человека по имени Гершун (Гершон), жившего в еврейской общине Восточной Европы, где фамилию образовали по модели «имя + суффикс принадлежности». Это не прозвище по ремеслу или внешности, а прямое указание на родство — «из семьи Гершуна».