Фамилия Рутковсъкий — это почти наверняка искажённое написание фамилии Рутковский. Встречается в старых документах или при передаче через латиницу (польск. Rutkowski, укр. Рутковський). Буква «ъ» в корне — архаичная, дореформенная, и на значение она не влияет: это та же фамилия, что и современная Рутковский.

Основа фамилии — топоним Рутково (Rutkowo) или Рутка (Rutka). Таких названий в Польше, Беларуси и на западе Украины несколько. Происходят они от слова «рута» — растение, известное в народной культуре как символ горечи и девичьей чистоты. В польской и украинской традиции рута — частый элемент обрядов и песен, поэтому названия сел вроде Рутка или Рутково могли дать по зарослям этого кустарника.

Суффикс -ский (польск. -ski) в фамилии указывает на дворянское или шляхетское происхождение. В Речи Посполитой фамилии на -ский носили землевладельцы, которые брали название от своего поместья: «пан из Руткова» превращался в Рутковского. Однако со временем, особенно после разделов Польши, такие фамилии распространились и среди крестьян и мещан — по месту рождения или проживания.

Интересная деталь: в польских гербовниках упоминаются несколько шляхетских родов Рутковских, приписанных к разным гербам (например, Побог, Наленч). Но единого происхождения у них нет — разные ветви независимо брали фамилию от разных деревень Рутково.

В современной России фамилия Рутковский (и её редкий вариант с «ъ») встречается редко, чаще всего у потомков поляков, белорусов или украинцев, переселившихся в XIX–XX веках. Если ваш предок писался как Рутковсъкий, это, скорее всего, след старой орфографии до 1918 года или ошибка писарей, смешавших кириллицу с латинским написанием.

Таким образом, носитель фамилии Рутковсъкий, вероятно, происходит из семьи, связанной с селом Рутково — либо шляхтич, владевший им, либо человек, живший там.