Фамилия Зарубов образована от личного прозвища и относится к распространенному типу русских фамилий. Прозвище Заруб этимологически связано с глаголом «зарубить». Скорее всего, это прозвище указывает на внешние особенности предка: вероятно, основатель рода Зарубовых имел на теле заметную «зарубку», то есть шрам, рубец. Таким образом, потомок человека, обладающего прозвищем Заруб, со временем получил фамилию Зарубов. О точном месте и времени возникновения фамилии Зарубов в настоящее время говорить сложно, поскольку процесс формирования фамилий был достаточно длительным. Тем не менее, фамилия Зарубов представляет собой замечательный памятник славянской письменности и культуры.