Фамилия Виленски — это вариант написания фамилии Виленский, который почти всегда указывает на польское или еврейское происхождение. Форма на -ски (-ский) типична для шляхетских фамилий в Речи Посполитой и для ашкеназских еврейских фамилий, которые в XIX веке нередко оформляли по той же модели. Основа здесь прозрачна: «Вилен» — это сокращённое название города Вильно (сегодняшний Вильнюс). Таким образом, первый носитель фамилии, скорее всего, был родом из Вильно или его окрестностей.

Словообразовательная модель простая: к топониму Вильно (в родительном падеже — Вильны, отсюда основа «Вилен-») добавили суффикс -ск-, который в польском и западнорусском вариантах означает «принадлежащий, происходящий оттуда». Окончание -и (Виленски) вместо -ий — это либо прямая передача польского написания (Wileński звучит как «Виленьски»), либо результат того, что фамилию записали на слух в документах Российской империи, где мягкий знак часто опускали, а окончание упрощали.

В польской традиции фамилия Wileński указывала на дворянское происхождение: многие шляхтичи брали фамилию по названию своего имения или места рождения. В еврейской среде фамилия Виленский (и её вариант Виленски) стала одной из самых распространённых «топонимических» фамилий — её носили выходцы из Виленской губернии, а также знаменитые раввины и учёные, например, Виленский Гаон (Элияху бен Шломо Залман). В белорусском и литовском контексте фамилия тоже встречается, но чаще в форме Виленский.

Интересная деталь: написание через «и» на конце (Виленски) — почти стопроцентный маркер того, что фамилия была записана в польском или немецком варианте (например, в Пруссии или Австро-Венгрии), либо что её носитель эмигрировал и потерял твёрдый знак в конце. В современной России и Украине такая форма редка, а в Израиле, США и Польше — обычна. Если ваши предки писались именно как Виленски, стоит искать их корни в западных губерниях Российской империи (Виленская, Ковенская, Гродненская) или среди еврейских переселенцев конца XIX — начала XX века.