Фамилия Мардонова образована от мужского имени Мардон. Это имя, в свою очередь, восходит к персидскому слову «мард» — «мужчина, муж» (в современном таджикском «мард» означает «мужчина, храбрец»). Таким образом, в основе фамилии лежит восточное именование с пожеланием мужественности, или же прозвище, данное человеку за твердый, мужской характер.

Фамилия Мардонов (а Мардонова — её женская форма по русской модели) характерна для народов Кавказа и Средней Азии. Она широко распространена среди осетин: в осетинском языке имя Мардон (или Мардан) встречается как традиционное, и фамилия Мардоновы — одна из распространённых в Северной Осетии. Также фамилия фиксируется у таджиков и узбеков, где имя Мардон по сей день дают мальчикам.

Словообразовательная модель здесь проста: основа Мардон + русский патронимический суффикс -ов (принадлежность). В отличие от многих русских фамилий, где суффикс крепится к крестильному имени (Иван → Иванов), здесь мы видим тюрко-иранскую основу, адаптированную русской фамильной формой. Это типичный случай для фамилий народов, вошедших в состав Российской империи: местное имя получало русское окончание при записи в документы.

Есть и редкая версия, связывающая фамилию с топонимом Мардон (название села или урочища), но она менее вероятна: гораздо чаще фамилии такого типа образовывались от личного имени, а не от названия места. Если бы фамилия была топонимической, мы бы чаще встречали форму Мардонский, а не Мардонов.

В дореволюционных метрических книгах и ревизских сказках фамилия Мардонов встречается в основном среди горских народов Терской области (осетины, ингуши), а также среди таджикского населения Туркестанского края. Сословно носители могли быть как крестьянами, так и представителями военного сословия — в Осетии фамилию носили и уважаемые старшины.