Фамилия Голцев образована по самой распространённой в русской ономастике модели — от прозвища или имени с помощью патронимического суффикса -ев. Суффикс указывает на принадлежность: Голцев буквально значит «сын Гольца» или «человек из рода Гольца». Основа здесь — «Голец», и именно в ней скрыта главная загадка фамилии.

Слово «голец» в русских говорах имело несколько значений. Самое прямое — голец как бедняк, голыш, человек без имущества. В этом случае прозвище давали бедному крестьянину или бобылю. Однако у слова были и другие, не менее яркие смыслы. В северных и сибирских говорах гольцом называли голую, безлесую вершину горы или каменистый мыс. Житель такого места или переселенец оттуда мог получить прозвище по географическому признаку. В диалектах встречается и значение «голец» как вид рыбы (разновидность лососёвых), а также как название гладкого, скользкого предмета — например, голого камня в воде. Наконец, в некоторых регионах «голец» обозначал человека с непокрытой головой, лысого или стриженого.

Какую из версий считать основной — вопрос спорный. Ономасты обычно отдают предпочтение прозвищу по внешности или социальному статусу, так как географические названия чаще ложатся в основу фамилий с суффиксом -ский (Горский, Полянский). Но для фамилии Голцев нельзя исключать и вариант с рыбой: в северных промысловых районах прозвища по названиям рыб были обычным делом (сравните фамилии Ершов, Окунев, Щукин). Скорее всего, в разных семьях Голцевых основа означала разное — в зависимости от того, где жил предок и за что его прозвали.

В документах фамилия встречается нечасто. В списках жителей центральных губерний XIX века Голцевы отмечены в Рязанской, Тамбовской и Пензенской губерниях. Это совпадает с ареалом бытования слова «голец» в значении «бедняк» — именно в этих местах такой диалектизм был распространён. Встречаются варианты написания Гольцев (через мягкий знак) — эта форма ближе к исходному слову «голь», «голый», и её можно считать более старой. Со временем твёрдое произношение вытеснило мягкое, и фамилия закрепилась в современном виде.

Несмотря на кажущуюся простоту, Голцев — фамилия с многозначной основой. Она могла принадлежать и крестьянину-бедняку, и жителю горной местности, и рыбаку, и человеку с заметной внешностью. Точное значение для каждой конкретной семьи можно установить только по местным говорам и истории рода.