Прозвище Заруб этимологически связано с глаголом «зарубить». Скорее всего, это прозвище указывает на внешние особенности предка: вероятно, основатель рода Зарубовых имел на теле заметную «зарубку», то есть шрам, рубец. Таким образом, потомок человека, обладающего прозвищем Заруб, со временем получил фамилию Зарубов.