Фамилия Рубинов образована от прозвища Рубин. Оно ведет свое начало от аналогичного нарицательного со значением «драгоценный камень красного или розового цвета; разновидность корунда». Таким образом, потомок человека, обладающего прозвищем Рубин, со временем получил фамилию Рубинов.