Фамилия Ржавина женская, мужской вариант — Ржавин. В основе лежит слово «ржавь» или «ржавина» — так в русских говорах называли ржавчину, болотную воду с рыжим налётом, а иногда и само ржаное поле. В отличие от фамилий, образованных от церковных имён, эта явно прозвищная: предка могли прозвать Ржавым за рыжий цвет волос или за то, что работал с болотной рудой, из которой варили железо. В северных и центральных губерниях «ржавцем» называли и болотистое место с рыжей водой — так что прозвище могло закрепиться за человеком, жившим у такого болота.

Суффикс -ин указывает на принадлежность: Ржавин — это «сын Ржавы» или «человек из семьи Ржавых». Такая модель в XVI–XVII веках была типична для недворянских фамилий, часто крестьянских и посадских. Встречается и фамилия Ржавинский, но она скорее польско-белорусского происхождения и образована от топонима, тогда как Ржавина — чисто русская, «патронимическая» по форме, но прозвищная по сути.

Искать ранние упоминания Ржавиных стоит в документах Рязанской, Тамбовской и Нижегородской губерний — там «ржавый» в значении «рыжий» было особенно распространено. В переписях XVIII века фамилия встречается среди однодворцев и государственных крестьян. Интересно, что в тех же краях бытовали фамилии Ржаной и Ржанников — от того же корня, но с другим оттенком: не цвет, а хлеб. Ржавина стоит особняком, потому что её основа многозначна: она может указывать и на внешность, и на ремесло, и на место жительства.