Фамилия Мазарский — редкий пример того, как географическое или культовое понятие становится родовым именем. Её основа — прозвище Мазар, которое восходит к арабскому слову «мазар» — «место, которое посещают». Со временем в тюркских языках и культурах Центральной Азии это слово закрепилось за мусульманскими могилами мучеников, суфийских святых и распространителей веры. Позже так стали называть и почитаемые объекты домусульманского прошлого: священные родники, деревья, скалы и древние захоронения предков.

Мазары были центрами общественной жизни. К ним совершали паломничества, приносили жертвы, проводили ритуалы и читали молитвы, прося у святого заступничества. Прозвище Мазар, скорее всего, давали человеку, который жил рядом с таким местом, служил при нём или происходил из тех краёв. Суффикс -ский в фамилии Мазарский указывает на типичную модель образования русских фамилий от географических названий или прозвищ, часто встречавшуюся в среде духовенства и дворянства, но не только: так могли «ополячивать» или «облагораживать» звучание фамилии в западных губерниях Российской империи.

В отличие от более частых фамилий на -ов/-ев, модель на -ский подчёркивает принадлежность к местности или роду занятий. Встречаемость фамилии Мазарский невысока, что говорит о её локальном происхождении — вероятно, из регионов, где соприкасались славянское и тюрко-мусульманское население: Поволжье, Приуралье, южные степи. Носитель фамилии мог быть русским, украинцем или поляком, усвоившим тюркское прозвище через соседство или службу.