Фамилия Кармазо — редкий случай, когда прозвище почти не изменилось, перейдя в фамилию. В ней нет типичных русских фамильных суффиксов (-ов, -ин, -ский), которые обычно «присоединяют» человека к роду. Это указывает на то, что перед нами, скорее всего, фамилия из западных или южных областей — украинская, белорусская или польская, где такие «голые» основы встречаются чаще. Либо же её могли записать в документах в исходной, неадаптированной форме.

Основа фамилии — прозвище «Кармаз». В его основе лежит тюркское слово «карамаз» или «кармаз», что в переводе с татарского, башкирского или казахского означает «черный», «смуглый», «темный». В русских говорах это слово закрепилось как прозвище для человека со смуглой кожей или черными волосами. Есть и вторая, менее вероятная версия: от диалектного глагола «кармазить» — делать наспех, кое-как, пачкать. В этом случае Кармазо — прозвище неаккуратного, небрежного человека.

Слово «кармаз» встречается в документах XVI–XVII веков. Например, в писцовых книгах упоминаются крестьяне с прозвищем Кармаз. Фамилия могла закрепиться за потомками таких людей без добавления суффикса, что характерно для украинской традиции фамилий на -о (как Шевченко, Гончаро). Окончание -о здесь — не русский суффикс, а украинский или белорусский показатель фамилии, означающий «сын Кармаза» или просто «тот самый Кармаз».

Географически фамилия Кармазо редка, но встречается в Краснодарском крае, Ростовской области и на Украине. Это косвенно подтверждает южное происхождение: носители фамилии — потомки запорожских казаков или крестьян, переселившихся на Кубань в XIX веке. Сословно предки, скорее всего, были казаками или государственными крестьянами — в дворянских родословных эта фамилия не зафиксирована.

Если сравнивать с однокоренными, то более часты фамилии Кармазин, Кармазов, Кармазинов. Они образованы от того же корня, но с русскими суффиксами. Кармазо — более архаичная и редкая форма, сохранившая исходное прозвище почти без изменений.