Фамилия Гармашовы происходит от личного прозвища Гармаш и входит в число распространённых русских фамилий, образованных по модели «прозвище + суффикс -ов». Притяжательный суффикс -ов указывает на принадлежность: Гармашов буквально означал «сын Гармаша» или «из семьи Гармаша».

Самая убедительная версия связывает основу с украинским словом «гармаш» — пушкарь. Так на южнорусских и украинских землях называли мастера, который делал или обслуживал пушки, а также артиллериста. Предок Гармашовых, скорее всего, служил при орудиях или работал с ними. Эта версия подкрепляется тем, что фамилия особенно распространена в регионах, исторически связанных с запорожским казачеством и южными оборонительными линиями, где пушкари составляли заметную часть населения.

Существует и альтернативное объяснение — от рязанского диалектного глагола «гармить», то есть «болтать без умолку». В этом случае прозвище Гармаш мог получить говорун или балагур. Однако эта версия менее вероятна: диалект «гармить» узко локален, тогда как прозвище Гармаш встречается шире, и его связь с артиллерийским делом прослеживается надёжнее.

Модель образования фамилии типична для восточнославянской ономастики: основа на шипящий (Гармаш) получает суффикс -ов, а не -ин, что характерно для прозвищ, а не для имён на -а/-я. Сравните с однокоренными фамилиями: Пушкарёв, Стрельцов, Звонарёв — все они указывают на род занятий.

Точное место и время возникновения фамилии Гармашовы установить сложно: фамилии у крестьян и казаков закреплялись в разное время, от XVI до XIX века. Но ясно, что это не случайное прозвище, а маркер социальной роли предка — человека, имевшего дело с огнестрельным оружием.