По одной из версий, фамилия Мардов образована от прозвища, которое восходит к диалектному слову «марда»: в олонецких говорах так называли вершу, то есть рыболовную снасть, сплетенную из ивовых прутьев, в виде узкой круглой корзины с воронкообразным отверстием. Таким образом, прозвище Марда относится к числу «профессиональных» именований и содержит указание на род занятий предка: скорее всего, он был рыбаком. Кроме того, слово «марда» употреблялось довольно редко, и только на Русском Севере. Исходя из этого, можно предположить, что основатель рода Мардовых был северянином. Согласно другой гипотезе, фамилия Мардов является русифицированным вариантом армянской фамилии Мардоян. Она образована от имени Мард, которое восходит к армянскому слову «мард» - «человек, мужчина», «мужественный, смелый человек, бесстрашный воин». Таким образом, потомок человека, обладающего прозвищем Марда, со временем получил фамилию Мардов.