Фамилия Ржавцев звучит так, будто её носитель имел отношение к чему-то рыжему, старому или едкому. В основе действительно лежит слово «ржавь» — то есть ржавчина, а также прилагательное «ржавый». Однако прозвище Ржавец вряд ли давали человеку за цвет волос или бороды: рыжих на Руси чаще называли Рыжовыми или Красновыми. Скорее всего, прозвище носило профессиональный или бытовой оттенок. Ржавцем могли назвать кузнеца или слесаря, который постоянно возился с ржавым железом, либо человека, жившего возле болота с рыжей (ржавой) водой. В некоторых говорах «ржавец» означал болотце или топкое место с ржавым оттенком — так что фамилия могла закрепиться за жителем урочища.

Суффикс -ев указывает на типичную патронимическую модель: «чей?» — Ржавцев, то есть сын или потомок Ржавца. Форма без уменьшительного суффикса (не Ржавчиков, а прямо от прозвища) говорит о том, что прозвище было устойчивым и, вероятно, неласковым. В документах XVII–XVIII веков встречаются крестьяне и посадские люди с прозвищем Ржавой или Ржавец — например, в переписных книгах по Туле и Калуге. Фамилия распространена в центральных и южных регионах России, особенно в Тульской, Орловской и Рязанской областях, где много болотистых низин.

Словообразовательный ряд: Ржавцев — однокоренная с Ржавиным (от «ржавый») и Ржавкиным (от «ржавка» — ржавая вода). Но в отличие от них, фамилия Ржавцев сохранила архаичную основу «ржавец», которая почти исчезла из живого языка. В словаре Б. Унбегауна такие фамилии отнесены к прозвищным, возникшим в крестьянской среде: дворяне с такой «неблагозвучной» основой не встречаются. Так что предки Ржавцевых, скорее всего, были ремесленниками или крестьянами, жившими у воды или работавшими с металлом.