Фамилия Вилейская — типичный пример «географической» фамилии, образованной по модели, распространённой в среде польской шляхты и западнорусского дворянства. Её основа — название места, а суффикс -ск-/-цк- указывает на принадлежность или происхождение: «тот, кто из Вилеи». Такие фамилии в XV–XVII веках часто закреплялись за помещиками, владевшими имением, или за выходцами из соответствующего населённого пункта, переезжавшими в другую местность.

Самое очевидное исходное название — река Вилия (ныне на территории Беларуси и Литвы, правый приток Немана). Вдоль её берегов расположено несколько старых поселений, в том числе город Вилейка (Минская область) и местечко Вилия. Топоним «Вилия» имеет балтские корни (ср. лит. vilnis — «волна», vilnyti — «волноваться») и означает «извилистая, волнистая река». Человек, живший на этой реке или в одноимённом селе, получал прозвище «Вилейский», а его жена или дочь — «Вилейская». В женской форме фамилия закрепилась, если семья перешла в другое сословие или если родоначальницей считалась женщина (например, вдова, владевшая землёй).

Менее вероятная, но возможная версия — связь с городом Вилейка. В дореволюционных метрических книгах и ревизских сказках Вилейского уезда (Минская губерния) фамилия Вилейская встречается как у шляхты, так и у мещан. В дворянской среде она нередко писалась с окончанием -ая, что характерно для русского произношения польских фамилий на -ski. В крестьянской среде эта фамилия почти не бытовала: модель на -ский/ -ская для простых сословий стала массовой лишь после отмены крепостного права, когда бывшим крепостным давали фамилии по названиям деревень.

Словообразовательно фамилия проста: корень Вилей- (от гидронима или ойконима) + суффикс -ск- + окончание -ая. Ударение, скорее всего, падает на второй слог: Виле́йская, хотя в некоторых говорах возможно ударение на первый слог. В польском варианте фамилия звучала бы как Wilejska.

Если вы ищете свои корни, стоит начать с Вилейского уезда Минской губернии и окрестностей реки Вилии. В архивных документах XIX века фамилия могла писаться и через «о» (Вілейская), и с буквой «ѣ» (Вѣлейская).