Фамилия Баярская — это прежде всего фонетический вариант более распространённой фамилии Боярская. Разница здесь чисто произносительная: в русских говорах, особенно на севере и в Сибири, безударное «о» часто «акали», то есть произносили как «а». На письме это закрепилось, и возник вариант Баярский/Баярская.

По сути, мы разбираем фамилию Боярская, но с оговоркой на её «акающее» происхождение. Сама фамилия Боярская образована от прозвища Боярский. Исходное слово — прилагательное «боярский», то есть «барский, принадлежащий боярину». Скорее всего, так называли крепостного человека, принадлежавшего боярину, или слугу, работавшего в боярском хозяйстве. Прозвище указывало на социальный статус владельца, а не самого носителя.

Есть и другая версия. Фамилия могла произойти от прозвища Бояр, напрямую от слова «боярин». В этом случае прозвище давали крестьянину, который держался гордо, важно, с достоинством — «как боярин». Такое прозвище, скорее всего, было ироничным или уважительным, но не указывало на реальное происхождение от знати.

Третья версия, менее вероятная для русской фамилии, но возможная для семей с тюркскими корнями, — связь с именем Баяр. Оно восходит к древнетюркскому «баяр» — «богатый муж, господин». Если фамилия действительно пошла от этого корня, то её написание через «а» — не фонетический сдвиг, а исходная форма. Однако для подавляющего большинства носителей фамилии Баярская в России более правдоподобно первое объяснение: это «акающий» вариант Боярской.

Как бы то ни было, модель образования типична: прозвище на -ский/-цкий закреплялось за человеком, а затем переходило в фамилию. Потомок того, кого звали Боярский или Бояр, со временем получил фамилию Баярская.