Фамилия Арсемерзаев — редкий случай, когда в основе лежит имя, собранное из двух разных языковых пластов. Первая часть, Арсе, скорее всего, восходит к чеченскому или ингушскому имени Арса (Арсан), что означает «орёл» или восходит к тюркскому «арслан» — лев. Вторая часть, Мерза, — это адаптированная форма арабского имени Марза (Мурза), которое в тюркской среде означало «князь», «господин» или просто «сын эмира». Таким образом, двусоставное имя Арсемерза могло значить «орёл-князь» или «лев-господин» — составное имя-пожелание, подчёркивающее силу и знатность.

Модель образования фамилии типична для народов Северного Кавказа, особенно для чеченцев и ингушей: к полной форме имени (Арсемерза) добавляется русский патронимический суффикс -ев, указывающий на принадлежность («сын Арсемерзы»). В исконной вайнахской традиции фамилии часто оканчиваются на -ов/-ев, потому что в XIX–XX веках русская администрация фиксировала их именно в такой форме. Суффикс -ев, а не -ов, стоит после мягкого согласного «з», что грамматически верно.

Географически фамилия Арсемерзаев почти наверняка привязана к Чечне или Ингушетии. Встречается она крайне редко, что говорит о её локальном происхождении — возможно, от конкретного тайпа (рода) или даже от одного аула, где жил носитель такого имени. В дореволюционных списках и советских переписях фамилия почти не засветилась, что типично для горных обществ, где долго сохранялось бесписьменное бытование имён.

С точки зрения социального статуса: имя Мерза (Мурза) в арабо-тюркском мире было маркером знатного происхождения, но на Кавказе его могли давать и как простое пожелание богатства и уважения. Поэтому предок Арсемерзаевых мог быть не обязательно князем, но человеком, которого родители хотели видеть уважаемым и сильным. Орёл (Арса) — частый тотемный образ в вайнахской культуре, символ свободы и зоркости.

В написании фамилии встречается вариант Арсамерзаев (с буквой «а» в середине), что ближе к исходному «Арса». Но закрепилась форма через «е» — Арсемерзаев, возможно, из-за акающего произношения или ошибки писаря при записи в метриках. Оба варианта относятся к одному корню.