Фамилия Гершец — относительно редкая, и её происхождение напрямую связано с еврейской ономастической традицией Восточной Европы. В отличие от славянских фамилий на -ов/-ин, которые образуются от притяжательных прилагательных, фамилия Гершец построена по модели, характерной для ашкеназских фамилий: основа + суффикс -ец (или -ц). Этот суффикс в еврейских фамилиях часто указывал на принадлежность к месту или на уменьшительно-ласкательную форму имени.

Основа «Герш» — это сокращение от библейского имени Гершон (или Гершом). В русской традиции это имя известно как Герша, Гершко. Имя Гершон носил первенец Левия, родоначальник одного из колен левитов. Таким образом, фамилия Гершец буквально означает «маленький Герш» или «сын Герша», то есть потомка человека по имени Герш. Уменьшительный суффикс -ец придаёт фамилии оттенок «младший» или «сын», что типично для патронимических фамилий у евреев, особенно в Польше, Галиции и на Волыни.

Географически фамилия Гершец чаще всего встречается в записях XIX — начала XX века на территории современных Украины, Беларуси и Польши — в тех регионах, где была высока концентрация еврейского населения и где активно формировались фамилии по польско-немецкой модели. В Российской империи такие фамилии нередко записывались с окончанием -ец, хотя в быту могли произноситься с ударением на первый или второй слог.

Стоит отметить, что фамилия Гершец — не единственная в этом гнезде. Родственные ей: Гершкович (с отчеством на -ович), Гершман (с немецким суффиксом -ман, «человек»), Гершберг (с топонимическим -берг, «гора»). Гершец выделяется именно уменьшительным суффиксом, который в славянской среде мог восприниматься как указание на молодость или небольшой рост предка, но в еврейской традиции это прежде всего семейное прозвище по имени отца.

По сословной принадлежности носители фамилии Гершец в основном относились к мещанам или купцам — типичным городским жителям черты оседлости. Дворянских корней у этой фамилии нет. В дореволюционных метрических книгах и ревизских сказках фамилия встречается в городах вроде Бердичева, Житомира, Острога, что подтверждает её западнорусское и польско-еврейское происхождение.