Фамилия Магкаева — это русский вариант написания осетинской, адыгской и балкарской фамилии Мэкъей. Исходное прозвище Мэкъей имеет несколько возможных толкований. Согласно одной версии, в переводе с адыгского языка оно означает «плохой голос». Другая гипотеза связывает основу с адыгским словом «мэкъу» — «сено». В таком случае прозвище могло относиться к человеку, который занимался сенокосом или имел внешность, напоминающую светлое сено, например, волосы соломенного оттенка.

В русской передаче фамилия утратила кавказский суффикс принадлежности, но сохранила типичный для русских фамилий показатель -ев/-а, который добавляется к основе, оканчивающейся на гласный. Это типичная адаптация нерусских фамилий: исходная форма Мэкъей превратилась в Магкаев, а затем и в женский вариант Магкаева. На письме буква «г» появилась, скорее всего, из-за особенностей произношения: гортанный звук «ъ» в русской записи передается через сочетание с «г».

Распространение фамилии среди осетин, адыгов и балкарцев указывает на то, что её носители исторически жили на Северном Кавказе, в регионах, где эти народы соседствуют. Точное время возникновения рода Магкаевых установить сложно — для этого требуются генеалогические изыскания в местных архивах. Однако ясно, что фамилия закрепилась за потомками человека по прозвищу Мэкъей, которое, скорее всего, носило описательный или профессиональный характер.