Фамилия Рутына — редкий случай, когда географическая привязка оказывается едва ли не важнее этимологии. Если вы встретили её в России, с вероятностью 90% носитель родом с Украины или из южных областей России. Дело в том, что фамилии с окончанием -ына (а не -ина) типичны именно для украинской ономастики: это притяжательная форма от женского имени или прозвища, но с ударением, смещённым на корень.

Основа — «Рута». В славянских языках это название душистого растения, известного с древности как лекарственное и магическое. На Украине и в Польше «рута» — символ девичьей чистоты, её сажали в садах и пели о ней в народных песнях. Прозвище Рута могли дать девушке или женщине за стройность, горьковатый запах (характерный для руты аромат) или за то, что она родилась в день, связанный с этим растением. От этого женского имени по модели «чьих будешь?» и возникла фамилия Рутына — буквально «жена или дочь Руты».

Мужская параллель — Рутин — встречается реже, но логически первична: от мужского прозвища Рут, которое тоже могло произойти от того же растения, но скорее в значении «горький», «едкий» по характеру. Однако в современном бытовании фамилия Рутына закрепилась именно в женской форме, что нередко для украинских фамилий (сравните: Гончаренко, а не Гончаренков, но при этом Дорошенко — мужская форма).

Интересная деталь: в отличие от фамилий на -ин, где ударение обычно падает на суффикс (Ру́тина → Рути́на), здесь ударение исконно на первый слог — Ру́тына. Это дополнительно указывает на украинское происхождение, где притяжательные прилагательные часто сохраняют ударение основы. Встречается написание через «и» — Рутина, но это уже результат адаптации в русской среде, где окончание -ина воспринимается как стандартное.

В сословном плане фамилия могла принадлежать как крестьянам, так и казакам — в Малороссии прозвища по растениям давали без оглядки на социальный статус. Единственное, что можно сказать с уверенностью: предок носителя был человеком, которого в округе знали по связи с этим растением — либо по имени, либо по характеру, либо по профессии (например, травник).