Фамилия Кармызов — редкий случай, когда корень слова почти наверняка тюркский, а суффикс — чисто русский, причём не самый распространённый. Основа «Кармыз» восходит к тюркскому karmyz — «красный» (сравните с татарским «кызыл» или казахским «қызыл»). В диалектах и старой письменности встречается форма «кармыз» в значении «красный, алый, багровый». Отсюда же, кстати, знакомое всем слово «кармин» — через западное посредничество, но с тем же древним корнем.

Как именно появилось прозвище Кармыз? Скорее всего, по внешнему признаку: человека могли так назвать за рыжие волосы, румяное лицо или, реже, за пристрастие к яркой, красной одежде. В тюркской среде такие прозвища по цвету волос или кожи были обычны. Менее вероятна, но возможна связь с названием красителя или ремесла — например, красильщик тканей в красный цвет.

Суффикс «-ов» указывает на стандартную русскую патронимическую модель: «чей?» — Кармызов, то есть сын или потомок Кармыза. Однако в фамилиях на «-ов» обычно основа — полное или уменьшительное имя (Иванов, Петров). Здесь же основа — прозвище, что типично для фамилий, возникших не в среде высшего сословия, а в крестьянской или служилой среде. Примечательно, что фамилия оформилась именно с этим суффиксом, а не с тюркскими «-ев» или «-ин», которые тоже встречаются, но реже. Это говорит о том, что носитель прозвища Кармыз жил в зоне активного русско-тюркского контакта — вероятно, в Поволжье, на Урале или в южнорусских степях, где тюркские элементы легко входили в русский быт.

Географически фамилия Кармызов сегодня встречается нечасто, но имеет заметный очаг в Татарстане и соседних областях. Это косвенно подтверждает версию о тюркском корне: фамилия могла возникнуть у крещёных татар или у русских, перенявших тюркское прозвище. Никаких сведений о дворянском происхождении или известных исторических личностях с этой фамилией нет — перед нами типичная «народная» фамилия, образованная от живого прозвища, которое давали по самой заметной черте внешности.