Вероятно, фамилия Багза образована от мужского имени Багза, которое восходит к осетинскому слову «багæдзæ», что в переводе на русский язык означает «подождать». Возможно, Багзой назвали долгожданного сына или первого ребенка в семье. Согласно другой, менее правдоподобной версии, в основе этой фамилии лежит слово «бæгъа» - «мальва (род растений из семейства Мальвовых)». В этом случае можно предположить, что родоначальник Багзы был знахарем, который занимался сбором лекарственных трав. Однако процесс формирования фамилий был достаточно длительным, поэтому точно определить время и место происхождения рода Багзы можно лишь на основании серьёзных генеалогических исследований.