Фамилия Голевов — редкий случай, когда суффикс -ов присоединился к основе, которая сама по себе уже несёт фамильный оттенок. В русской ономастике такая модель встречается нечасто: обычно фамилию образуют от имени, прозвища или профессии, а здесь перед нами вторичное образование от фамилии Голев. То есть предок носителя фамилии Голевов был, скорее всего, сыном или внуком человека по фамилии Голев, и в какой-то момент его записали с двойным суффиксом — так появился Голевов.

Корень фамилии восходит к прозвищу Голь или Голев. В русских говорах «голь» — это бедность, неимущие люди, а «голев» могло означать «голый», «бедный» или «оборванный». Отсюда же и фамилия Голев, которая широко распространена в центральных и южных регионах России. Словарь Б. Унбегауна относит такие фамилии к группе прозвищных, образованных от прилагательных, описывающих внешность или социальное положение. В данном случае предок Голевов мог быть человеком, которого в округе знали как «голя» — бедняка или того, кто ходит в обносках.

Иная, менее вероятная версия связывает фамилию с именем Гол (Голя) — краткой формой от Гавриил или Голиаф. Но учитывая, что в основе лежит именно Голев, а не Гол, прозвищное происхождение выглядит убедительнее. Географически фамилия Голевов встречается крайне редко, в основном в документах XIX–XX веков по Тамбовской и Воронежской губерниям, что подтверждает её локальный, почти «однодворный» характер. В отличие от массовых фамилий на -ов, Голевов не разошлась широко по стране, а осталась в узком кругу родственных линий.