Фамилия Зарубова — женская форма, а мужская, Зарубов, образована от прозвища Заруб. В основе лежит глагол «зарубить», и тут открывается сразу несколько версий, почему предка так назвали. Самая очевидная — внешняя примета: «зарубка» на теле, то есть шрам или рубец. Такое прозвище мог получить человек со следами от сабли, топора или серьёзной травмы. Но не обязательно — прозвище Заруб нередко давали по ремеслу. Дровосек, мясник или военный, чья работа связана с рубящими орудиями, вполне мог заслужить такое прозвище.

Интересно, что в русских говорах у слова «заруб» были и другие значения. Например, в некоторых регионах так называли зарубку на дереве как метку или межевой знак. Тогда прозвище могло достаться человеку, который ставил такие метки, — леснику, землемеру или тому, кто жил у заметной границы. Также «зарубом» иногда называли упрямого, резкого в общении человека — того, кто «рубит правду-матку». Какая из версий верна для конкретного рода Зарубовых, без генеалогического исследования не скажешь, но все они укладываются в логику народных прозвищ.

Фамилия построена по простой и распространённой модели: прозвище Заруб плюс типичный русский суффикс -ов (в женском роде -ова). Такие фамилии в XV–XVII веках получали крестьяне и посадские люди, когда за ними закреплялось прозвище отца или деда. В отличие от дворянских фамилий, часто образованных от географических названий, Зарубовы — фамилия «прозвищная», из народной среды. Встречается она преимущественно в центральных и южных областях России, где были сильны традиции прозвищ по занятию или внешности. Среди однокоренных — Зарубин, Зарубкин, Зарубцов, но фамилия Зарубова/Зарубов встречается реже и потому более локальна.