Фамилия Мардовский — относительно редкая, и её происхождение лежит скорее в польско-литовском или западнорусском ареале, чем в великорусском. Суффикс -ский указывает на дворянское или шляхетское происхождение: в Речи Посполитой такие фамилии получали землевладельцы по названию своего поместья. Основа Мард- могла возникнуть как от варианта личного имени Мардоний (греческого происхождения, от персидского «Мардоний» — сподвижник Ксеркса), так и от топонима: на карте современной Польши есть несколько мест с корнем Мард (например, Мардоны, Мардово). Второй вариант даже вероятнее: владелец имения Мардово или Мардовск становился Мардовским.

В русской среде фамилия могла появиться после разделов Польши, когда шляхтичи переходили на службу к российскому двору, или через семинаристов. В духовных училищах XIX века ученикам нередко давали фамилии по названиям церковных праздников или по прилагательным от местности — Мардовский могло быть образовано от села Мардово в искусственной книжной манере. Встречаются также единичные случаи, когда фамилию давали по прозвищу Марда (в диалектах — от «марда» как «морда» или «лицо», но это грубое прозвище редко становилось основой для фамилии на -ский).

Сословный состав носителей Мардовских неоднороден: в метрических книгах XIX века эта фамилия встречается и среди мещан западных губерний (Могилёвской, Витебской), и среди духовенства. Окончание -ский не гарантирует дворянства — многие крестьянские фамилии на -ский в Белоруссии и на Украине возникали по той же топонимической модели. Спорных версий тут немного: корень Мард- редко связывают с еврейскими фамилиями (Мардович, Мардкович), но в фамилии Мардовский скорее славянская основа, хотя не исключено, что в отдельных случаях её носителями становились крещёные евреи, взявшие фамилию по месту жительства.

Если искать однокоренные фамилии, то Мардов, Мардовин, Мардович — все они восходят к той же основе, но суффикс -ский выделяет Мардовского как человека, чей предок владел землёй или происходил из конкретного населённого пункта. В современной России фамилия встречается редко, чаще в Псковской, Смоленской областях и в Белоруссии.