Фамилия Катмаева — женская форма, а её мужской вариант — Катмаев. Словообразовательная модель здесь прозрачна: суффикс -ев указывает на принадлежность («чей?»), то есть буквально фамилия означает «дочь или жена Катмая». Интересно, что суффикс -ев, а не -ов, говорит об основе на мягкий согласный или на -й, что в данном случае и подтверждается корнем.

Корень — Катмай. Это личное имя или прозвище, и здесь мы упираемся в главную загадку. Скорее всего, основа тюркская, что неудивительно для фамилий с таким звучанием в Поволжье, на Урале или Северном Кавказе. Вероятнее всего, Катмай — это производное от тюркского слова «катма» или «катман», что в разных диалектах означает «слой», «складка» или даже «слоёная лепёшка» (сравните с казахским «каттама» или татарским «кытма»). Прозвище Катмай мог получить плотный, коренастый человек, либо тот, кто пёк такие лепёшки. Вторая, менее вероятная версия — связь с арабским именем Катиб (писец), прошедшим через тюркскую фонетику, но это спорно: переход «б» в «м» в этой среде нехарактерен.

Географически фамилия Катмаева встречается среди осетин (особенно дигорцев), а также у чеченцев и ингушей. У осетин, например, фамилии на -ев — один из самых распространённых типов. Здесь прозвище могло закрепиться за основателем рода, который отличался внешностью или занятием. Социальный контекст: носители фамилии, скорее всего, не относились к дворянству — в среде горских народов фамилии такого типа фиксировались у крестьян-общинников и воинов. Аристократические осетинские фамилии чаще оканчивались на -ты или -он, но не на -ев.

Если сравнивать с однокоренными, то фамилия Катмаев — более редкая, чем, скажем, Катмазов (с суффиксом -ов), которая могла возникнуть от того же корня, но в другой диалектной среде. В любом случае, точное значение прозвища Катмай сегодня уже не восстановить без генеалогического поиска: оно могло быть и описательным, и профессиональным, и даже ироничным — в старых обществах прозвища часто давали «от противного», по контрасту с реальным качеством человека.