Фамилия Харзов — одна из тех, что заставляют задуматься: что за «харз» скрывается в основе? Первое, что приходит на ум — это устаревшее диалектное слово «харз», которое в некоторых говорах означало «хрящ» или «жесткая, грубая ткань». Если так, то прозвище Харз могли дать человеку с крепким, жилистым телосложением, либо, по другой версии, мастеру, работавшему с грубым материалом, например, кожевнику или шорнику. Суффикс -ов указывает на типичную русскую модель образования: «чей?» — сын или потомок Харза.

Однако есть и более редкая, но любопытная версия. В некоторых южнорусских и украинских говорах «харз» или «харза» — это название лесной куницы (от тюркского «карза»). В этом случае прозвище могло принадлежать ловкому, быстрому человеку, охотнику на пушного зверя, либо же человеку с «куньей», хитрой внешностью. Фамилия могла закрепиться за целым родом охотников. Эта версия менее известна, но лингвистически обоснована: тюркские заимствования в русских фамилиях промыслового характера не редкость (ср. Барсуков, Соболев).

Географически фамилия Харзов встречается не повсеместно, а с заметной концентрацией в Воронежской, Ростовской областях и на востоке Украины — то есть в зоне активных контактов с тюркскими народами. Это косвенно поддерживает «куньего» версию. В старых переписных книгах XVII–XVIII веков фамилия не фиксируется, что говорит о её сравнительно позднем, «крестьянском» происхождении. Скорее всего, предки Харзовых были однодворцами или государственными крестьянами южных окраин России.

В современном русском языке фамилия звучит необычно, что иногда провоцирует путаницу: её могут записывать как Харзов или Харцов, путая с фамилией от имени Харлампий (Харламов). Но корень у Харзовых свой, без связи с греческими святыми.