Фамилия Ртвинская — редкий случай, когда основа не бросается в глаза даже носителю языка. Если отбросить типичный фамильный суффикс -ск-, указывающий на принадлежность к местности или роду, остаётся корень «ртв-». В русском языке такого корня нет, и это сразу подсказывает версию: фамилия образована от географического названия.

Скорее всего, Ртвинские — потомки выходцев из населённого пункта с похожим именем. На слуху Ртищево (от «ртище» — большой рот), но здесь иная модель. Ближе всего — название реки Рутва или села Рутвица в бассейне Припяти (историческая Волынь, ныне Украина). В древнерусских говорах «рутва» означало «ртуть» или «живое серебро», но для топонима вероятнее балтский след: литовское rūtva — «трава, зелень». Фамилия могла закрепиться в форме Рутвинская, а со временем, под влиянием акающего произношения (особенно в южнорусских и белорусских говорах), «у» перешло в безударное «о», которое на письме отразилось как «а». В результате Рутвинская превратилась в Ртвинскую — запись зафиксировала редукцию гласного.

Менее вероятна, но возможна связь с прозвищем Рот (Рт- — древняя основа от «рот»). В этом случае фамилия означала бы «относящаяся к человеку по прозвищу Рот» (например, говорливому или с заметным ртом). Однако суффикс -ск- для таких прозвищных фамилий нехарактерен: обычно они оформляются через -ов/-ев или -ин (Ротов, Ртищев). Поэтому топонимическая версия убедительнее.

Женское окончание -ая указывает, что перед нами форма жены или дочери Ртвинского. В дворянской среде такие фамилии на -ский/-ская часто передавались по мужской линии, но могли и закрепиться за родом в целом. Сословная принадлежность Ртвинских неясна: фамилия могла принадлежать как мелкопоместным дворянам (типично для польско-литовских земель), так и крестьянам, получившим фамилию по месту выхода.

В написании возможны варианты: Рутвинская, Ротвинская, но именно форма Ртвинская — самая редкая и орфографически нестандартная. Она сохраняет следы живой речи, где гласный «выпал» при произношении. Если вы встретили эту фамилию в метриках или архивных документах, стоит проверить, не записана ли она рядом как Рутвинская — это поможет точнее определить регион происхождения предков.