Фамилия Мадагова — женская форма фамилии Мадагов. Её происхождение почти наверняка связано с этнонимом «мадаг» — так в прошлом называли мадьяр, то есть венгров. В русских говорах и в документах XVI–XVII веков слово «мадаг» или «мадьяр» закрепилось как прозвище выходца из Венгрии или человека, чем-то напоминавшего венгра (например, одеждой или манерой речи). Таким образом, основа фамилии — прозвище Мадаг, а суффикс -ов указывает на принадлежность: «сын Мадага» или, в женском варианте, «дочь/жена Мадагова».

Фамилия редкая и географически привязана в основном к Северному Кавказу, особенно к Осетии. Это не случайно: осетинский язык сохранил слово «мадаг» в значении «венгр» (через тюркское посредничество), а среди осетин фамилия Мадаговы действительно встречается. В русском контексте фамилия могла возникнуть у служилых людей, которые контактировали с иноземцами, или у крещёных выходцев из Венгрии, оказавшихся в России.

Суффикс -ов типичен для русских фамилий, но в осетинской среде он тоже прижился — многие осетинские фамилии оформились по русской модели в XIX веке при записи в метрики. Поэтому Мадагова может быть как русской по происхождению (от прозвища), так и осетинской, адаптированной к русскому окончанию.

Других версий, серьёзно конкурирующих с этой, нет. Связь с тюркским «мада» (мать) или арабским «мадад» (помощь) маловероятна — такие корни не дают типичной для фамилий модели с суффиксом -ов. Так что если вы встретили носительницу фамилии Мадагова, скорее всего, её предок был человеком, которого в своём окружении называли «венгром» — по происхождению или внешнему сходству.