Фамилия Зарубаевы — один из тех родовых имен, где прозвище предка перешло в фамилию практически без изменений, лишь обрастя патронимическим суффиксом. В основе лежит прозвище Зарубай, образованное от глагола «зарубить». Это слово в древнерусском языке имело широкий спектр значений — от прямого «нанести удар топором» до переносного «сделать зарубку, отметину». Поэтому и версий происхождения фамилии несколько.

Первая и самая очевидная: Зарубаем называли человека со шрамом, рубцом на видном месте. На Руси такие прозвища давали раненым воинам, вернувшимся из похода. В условиях, когда боевые ранения были обычным делом, внешняя примета легко становилась главным именем, под которым человека знали соседи. Вторая версия — профессиональная: Зарубай мог быть мясником или лесорубом, то есть человеком, чья работа связана с постоянным «зарубанием». Третья, менее очевидная, но имеющая право на существование — прозвище могли дать суровому, резкому в общении человеку, который «рубит сплеча» в разговоре.

Фамилия образована по самой распространенной русской модели: к основе на твердый согласный (Зарубай) добавили суффикс -ев, обозначающий принадлежность. Буквальное значение: «сын Зарубая», «из семьи Зарубая». В говорах встречаются параллельные формы: Зарубин (от той же основы, но с другим суффиксом) и Зарубкин (от уменьшительной формы прозвища). Зарубаевы — более редкий вариант, что может указывать на локальное бытование фамилии, возможно, в южнорусских или украинских землях, где суффикс -ев часто закреплялся за прозвищами на -ай.

Точное время возникновения фамилии не установлено. Прозвище Зарубай фиксируется в документах XVII века, но сама фамилия могла оформиться и позже, в XVIII–XIX веках, когда крестьянские прозвища начали массово переходить в наследственные фамилии. Окончательно говорить о месте происхождения конкретной ветви Зарубаевых можно только после анализа архивных записей по конкретному региону.