Фамилия Рубова — женская форма, а её мужской вариант — Рубов. В основе лежит прозвище или нецерковное имя Руб. В древнерусском языке глагол «рубить» имел широкий спектр значений: от прямого «сечь топором» до переносного «резать, кроить, а также говорить резко, прямо». Поэтому Рубом могли назвать и плотника или лесоруба, и портного, и человека с грубоватым, бескомпромиссным характером. Модель образования типична для русских фамилий: к основе на твёрдый согласный прибавляется суффикс -ов, указывающий на принадлежность («чей?» — сын Руба).

Стоит учесть, что фамилия могла возникнуть и из уменьшительной формы крестильного имени. В старину имя Рубим (от древнееврейского «реувен» — «смотрите, сын») иногда сокращали до Руб. Однако эта версия менее вероятна: имя Рубим в России встречалось редко, в основном в среде старообрядцев, и не дало массового фамильного гнезда.

Географически фамилия Рубов/Рубова тяготеет к северным и центральным регионам России, где был развит лесной промысел. Встречается она и на Украине, где могла образоваться от аналогичного прозвища, но с другим суффиксом (Рубенко, Рубан). Интересно, что однокоренные фамилии — Рубанов, Рубановский, Рублёв — ведут родство от тех же корней, но с разными суффиксами, что говорит о самостоятельном, а не семейном происхождении каждой из них.

В дореволюционных списках фамилия Рубов фиксируется в основном за крестьянами и мещанами. Дворянских родов с такой фамилией не известно, что подтверждает её «ремесленное» или прозвищное происхождение. Таким образом, предки современных носителей фамилии Рубова с высокой долей вероятности были людьми, чья жизнь была связана с рубкой — леса, ткани или правды-матки.