Фамилия Герцовой — это женская форма, а её мужской вариант — Герцов. Такая модель типична для русских фамилий на -ов/-ев: в быту и документах женщину называли по отцу или мужу. Сама основа «Герц» — прозрачная и короткая, что сразу указывает на иностранное происхождение, скорее всего немецкое или еврейское.

В немецком языке слово «Herz» означает «сердце». Прозвище Герц (или Герце) могли дать человеку с добрым, отзывчивым характером, либо, по контрасту, тому, кто казался «сердцем» семьи или общины. Второй, не менее вероятный вариант — фамилия образована от уменьшительной формы имени Герберт или Герман, где «Герц» выступало как домашнее прозвище. В среде немецких колонистов, переселявшихся в Россию в XVIII–XIX веках, такие сокращения были обычным делом.

Учитывая, что фамилия фиксируется в основном на юге России и в Поволжье — регионах массового расселения немцев, — скорее всего, предки носителей фамилии Герцов были немецкими колонистами. В русской среде фамилия получила типичный суффикс -ов, который «обрусел» немецкую основу. Интересно, что в отличие от фамилий на -ин (типа Герцин), модель на -ов указывает на более позднюю и сознательную адаптацию: её давали уже в России, а не привозили готовой из Германии.

Если опираться на словарь русских фамилий Б. Унбегауна, то фамилии с корнем «Герц» он относит к числу тех, что возникли на стыке культур — когда иноязычное прозвище обрастало русским окончанием. Спорных версий здесь мало: прозвищный или патронимический путь — оба ведут к одному выводу, что предок носителя фамилии был либо немцем по происхождению, либо жил в немецкой среде.