Фамилия Кацавец — редкий пример, где основа, скорее всего, не русская, а западнославянская или украинская, а русский суффикс -ец указывает на принадлежность к месту. В отличие от типичных русских фамилий на -ов, эта модель образования говорит о человеке, который «откуда-то родом»: Кацавец — это тот, кто с Кацавщины, из села или местности с похожим названием.

Сама основа «кацав» не имеет прямого значения в русском языке. Вероятнее всего, она происходит от украинского или польского слова «кацап» — прозвища, которым на Украине и в Белоруссии называли великороссов (московитов). Слово имеет сложную и не до конца ясную этимологию, но чаще всего его связывают с тюркским «касап» (мясник) или с турецким «kasap» (палач) — в переносном смысле «грубый, неотёсанный человек». Однако фамилия образована не напрямую от прозвища «кацап», а от топонима: существовали сёла Кацаповка, Кацапщина, Кацавка. Жителя такой местности называли «кацавец» — то есть выходец из Кацавки.

Суффикс -ец в восточнославянских фамилиях часто указывает на географическое происхождение (Воронежец, Могилевец, Донец). Так что первый носитель фамилии Кацавец — не обязательно человек с прозвищем, а скорее переселенец, которого соседи запомнили по прежнему месту жительства. Фамилия могла закрепиться в XIX веке на территории современной Украины, юга России или в Польше, где были соответствующие деревни.

Встречаются варианты написания Кацавец и Кацавц, но второй — результат упрощения при записи в документах. Поскольку фамилия редкая и недворянская, её носители, скорее всего, были крестьянами или казаками, которых при переписи записывали по месту выхода. Социального взлёта у фамилии не было, она осталась в низовых слоях населения, что типично для «географических» прозвищ без патронимического суффикса.