Фамилия Гармаев — одна из тех, что напрямую ведут к восточным именам и буддийской культуре. Её основа — мужское имя Гарма, широко распространённое у бурят. Само имя восходит к санскритскому понятию «карма» — центральному в буддизме. Карма переводится как «дело, действие, труд» и обозначает вселенский закон причины и следствия: каждое действие человека определяет его будущее. Нарекая сына Гармой, родители желали ему праведной судьбы и надеялись, что он будет совершать только добрые поступки.

Есть и другая версия, менее распространённая. Согласно ей, имя Гарма — женское, имеет тибетские корни и означает «звезда» или «созвездие». В этом случае фамилия могла образоваться от имени матери или другой женщины в роду.

Фамилию строили по стандартной русской модели: к основе Гарма добавили патронимический суффикс -ев, который указывает на принадлежность («чей?» — Гармаев). То есть прямой предок носителя фамилии — человек по имени Гарма.

Документы подтверждают, что фамилия бытовала в Забайкалье ещё в XIX веке. В Книге памяти Читинской области упомянуты крестьяне-единоличники: Бабу Гармаев (1873 года рождения) из села Зугалай и Сугар Гармаев (1880 года) из села Усть-Ямаровка. Эти записи показывают, что фамилия уже тогда была устоявшейся и передавалась по наследству.

Среди известных носителей — Гармажап Аюрович Гармаев (1916–1945), участник похода в Западную Украину и советско-финской войны. За мужество в боях он получил звание Героя Советского Союза в апреле 1940 года.