Фамилия Рубилова — женская форма, образованная от мужской Рубилов, а та, в свою очередь, от прозвища или нецерковного имени Рубило. В русской ономастике это редкий случай, когда в основе лежит не профессия (рубильщик), а орудие труда — рубило, то есть топор или тесак. Такие прозвища по инструменту давали не столько тому, кто им работал, сколько человеку с тяжёлым, грубым характером или, напротив, резкому в суждениях. В словаре русских фамилий Б. Унбегауна есть параллели: Топоров, Ножев, Молотов — все они образованы по той же модели «предмет + -ов», указывая на прозвище, а не на ремесло.

Суффикс -ов в фамилии Рубилова типичен для центральных и северных регионов России. Мужская форма Рубилов — притяжательное прилагательное, отвечавшее на вопрос «чей?»: сын Рубила. Встречается и вариант с суффиксом -ин (Рубилин), но он менее распространён. Само слово «рубило» в древнерусском языке означало не только топор, но и каменное орудие первобытного человека. Однако для фамилии эта архаичная связь маловероятна: прозвища эпохи становления фамилий (XV–XVII века) брали из бытовой лексики, а не из археологических терминов.

Географически фамилия Рубилова тяготеет к Вологодской и Архангельской областям, а также встречается на Урале. В этих краях «рубить» — ключевое слово для крестьянского быта: рубили избы, рубили дрова, рубили лён. Прозвище Рубило мог получить плотник, лесоруб или просто человек с рублеными чертами лица. В переписных книгах XVII века подобные именования фиксировались как неканонические имена: в документах по Северной Двине встречается крестьянин Рубило, от которого и пошли Рубиловы.

С точки зрения словообразования, фамилия стоит в одном ряду с такими однокоренными, как Рубцов (от «рубец»), Рублёв (от «рубль») и Рубанов (от «рубанок»). Но Рубилова отличается тем, что её основа — не результат действия, а сам инструмент. Это делает фамилию более «вещной», предметной: предок словно назван не по тому, что он делал, а по тому, чем он это делал.

Сословная принадлежность Рубиловых, скорее всего, крестьянская или посадская, без дворянских корней. Фамилия не встречается в родословных книгах, что косвенно подтверждает её происхождение из среды ремесленников или черносошных крестьян.