Фамилия Гаркавцев образована от прозвища Гаркавец. В его основе — украинское прилагательное «гаркавый», то есть «картавый, нечетко произносящий некоторые звуки». Скорее всего, прозвище закрепилось за человеком из-за особенности речи: он шепелявил или не выговаривал отдельные буквы. Такие прозвища были распространены в среде, где внешние или речевые черты сразу бросались в глаза и становились главным именем в быту.

Менее вероятная версия связывает Гаркавца с прилагательным «горький». Согласно этой гипотезе, прозвище могло быть внутрисемейным оберегом: чтобы не искушать судьбу, родители нарекали ребёнка именем с противоположным значением, надеясь на счастливую и благополучную жизнь. Однако эта трактовка слабее, поскольку фонетический переход от «горький» к «гаркавый» требует дополнительных допущений, а прямая связь с дефектами речи — самая естественная и подтверждается живыми диалектами.

Суффикс -ев в фамилии указывает на принадлежность: Гаркавцев — «сын Гаркавца». Такая модель типична для русских фамилий, образованных от прозвищ с конечным -ец. По сословному составу носители фамилии, судя по архивным данным, относились к крестьянам и мещанам. Например, в Книге памяти Республики Татарстан упоминается заведующий отделом Госбанка ТАССР Степан Антонович Гаркавцев, родившийся в 1892 году в селе Знаменка Мариинского района Кемеровской области. А в архивах УВД Воронежской области сохранилась запись о Гаркавцевой Прасковье Евдокимовне, 1880 года рождения, из села Марки Евдаковского района Воронежской области. Оба случая показывают, что фамилия бытовала в разных регионах — от Сибири до Центрального Черноземья, причём носители занимали как рабочие, так и административные должности.