Фамилия Шербу образована от прозвища Шерб. Оно берет начало от существительного şerb, которое в переводе с румынского языка на русский означает «крепостной крестьянин». Можно предположить, что прозвище Шерб указывает на социальный статус его обладателя. Таким образом, человек, предка которого звали Шерб, со временем получил фамилию Шербу.