Фамилия Рутыня звучит непривычно для русского уха, но её происхождение укладывается в несколько логичных версий, каждая из которых ведёт к конкретной группе предков. В основе почти наверняка лежит прозвище или вариант личного имени.

Первый и самый очевидный путь — от слова «рутина». В современном языке у него негативный оттенок, но в XVIII–XIX веках «рутина» (из французского routine) означала просто «заведённый порядок», «привычное дело». Прозвище Рутина могли дать человеку методичному, педантичному, который всё делал по одному разу и без сбоев. Суффикс -ыня в таких фамилиях — редкий, но не уникальный (сравните: Болдыня, Кривуня). Он мог придавать слову оттенок ласкательности или просто фиксировать прозвище в новой форме: Рутыня — тот же Рутина, но с изменённым окончанием, характерным для западнорусских или белорусских говоров.

Вторая версия — от имени собственного. В православных святцах есть имя Руф (от латинского rufus — «рыжий»). В народном произношении оно нередко превращалось в Рут. Отсюда — уменьшительная форма Рутыня, то есть «маленький Рут» или «сын Рута». Фамилии с суффиксом -ыня нередко образовывались именно от имён: Мартыня (от Мартин), Вавыня (от Вава). Если предка звали Рут, то его потомок становился Рутыней.

Третий вариант — географический. В Польше и Западной Беларуси есть несколько деревень с названием Рута или Рутка. Выходец оттуда мог получить прозвище Рутыня — «человек из Руты». Суффикс -ыня в таком случае работает как указатель на место жительства, похоже на то, как образовывали фамилии от названий рек и сёл в южнорусских и белорусских землях.

Сословную принадлежность определить трудно. Фамилия не дворянская и не купеческая — в старых родословных книгах она не встречается. Скорее всего, Рутыня — фамилия крестьянская или мещанская, возникшая не раньше середины XVIII века, когда прозвища начали закрепляться за целыми семьями. Ареал бытования — западные губернии Российской империи: Могилёвская, Витебская, Гродненская, а также современная Беларусь.

Что из этого правдоподобнее? Версия с именем Руф/Рут самая надёжная: она объясняет и форму, и типичность модели для восточнославянской ономастики. Но если ваш предок был известен как педантичный хозяин, прозвище от «рутины» тоже могло закрепиться.