Фамилия Гербовы — редкий случай, когда в основе лежит слово, почти не изменившее своего значения за века. Прозвище Герб напрямую связано с обозначением родового или государственного знака. Владимир Даль в своём словаре поясняет: герб — это «род щита с изображением знаков, присвоенных государству, городу, дворянскому роду». Отсюда же и глагол «гербовать» — клеймить или ставить гербовую печать.

Скорее всего, первый носитель прозвища Герб был не просто владельцем герба, а человеком, который их создавал или ставил. Гербописцы и рисовальщики гербов существовали при дворах и в приказных избах. В отличие от дворянина, чей герб передавался по наследству, такой мастер получал прозвище по своему ремеслу. Крестьянская или мещанская среда редко давала прозвища по дворянским атрибутам, но профессиональное именование «Герб» для человека, работающего с государственной символикой, вполне логично.

Фамилия образована по стандартной русской модели: к основе «Герб» добавили патронимический суффикс -ов, то есть «сын Герба». Форма «Гербовы» — это множественное число, указывающее на род в целом («чьи будете?» — «Гербовы»). Такая форма окончательно закрепилась в документах и быту, когда фамилию стали передавать по наследству.

Стоит отличать фамилию Гербов от фамилий, образованных от немецкого имени Герберт или от слова «герб» в значении «горб» (диалектное). В случае с Гербовыми связь с геральдикой выглядит наиболее прямой и убедительной. Окончательно установить, в какой именно губернии впервые записали Гербовых, можно только по архивным переписям, но само прозвище явно возникло в среде, связанной с делопроизводством или геральдической службой.