Фамилия Гармоза — редкий случай, когда корень слова почти наверняка указывает на конкретное ремесло или занятие предка. В основе лежит украинское или южнорусское «гармоза» — так в некоторых регионах называли гармонь, а точнее — гармониста, музыканта, играющего на гармонике. Слово это результат народной переделки: от итальянского «armonia» через польское посредничество. Таким образом, первый носитель фамилии с высокой долей вероятности был гармонистом — либо профессиональным музыкантом на ярмарках и свадьбах, либо просто человеком, который славился игрой на гармони в своей округе.

Модель образования фамилии проста: прозвище Гармоза (человек, ассоциирующийся с гармонью) без дополнительных суффиксов стало фамилией. Это характерно для украинской и белорусской традиции, где фамилии на -а, -о нередко закреплялись в исходной форме. В русском же языке подобные прозвища чаще обрастали суффиксами -ов или -ин, но южные и западные земли сохраняли бессуффиксный вариант. Если бы фамилия возникла в северных или центральных губерниях, мы бы с большей вероятностью встретили Гармозова или Гармозина.

Географически фамилия Гармоза встречается в основном на Украине и в прилегающих областях России — в Белгородской, Воронежской, Ростовской областях, а также в Краснодарском крае. Это совпадает с ареалом распространения гармошки как народного инструмента и с регионами, где украинское влияние на фамилии было особенно сильным. Встречается фамилия и в Беларуси, но реже.

Существует и другая, менее убедительная версия: связь с диалектным глаголом «гармозить» — шуметь, греметь, производить грохот. В этом случае прозвище мог получить шумный, беспокойный человек. Однако первая версия — музыкальная — выглядит логичнее, поскольку «гармоза» как название инструмента и музыканта зафиксирована в словарях, а глагол «гармозить» — редкий и локальный.

Фамилия не относится к дворянским или старинным аристократическим родам. Её носители — выходцы из крестьянской или мещанской среды, где ремесло музыканта было уважаемым, но не давало привилегий. В дореволюционных метрических книгах Гармоза встречается среди запорожских казаков и государственных крестьян южных губерний.