Фамилия Рубштейн — одна из тех, что безошибочно указывает на ашкеназское происхождение. Она сложена из двух немецких или идишских корней: «руб» (Rub, Rubin) — «рубин», и «штейн» (Stein) — «камень». Буквально: «рубиновый камень». В отличие от многих русских фамилий, образованных суффиксами -ов или -ин, Рубштейн — чистая композита, типичная для еврейской ономастики Центральной и Восточной Европы.

Такие фамилии часто давали по декоративному или искусственному принципу. В конце XVIII — начале XIX века, когда в Австрийской и Российской империях евреям вменяли в обязанность иметь постоянные фамилии, многие выбирали (или получали от чиновников) названия по названиям драгоценных камней, металлов или красивых природных явлений. Рубштейн стоит в одном ряду с фамилиями Гольдштейн («золотой камень»), Зильберштейн («серебряный камень») или Эдельштейн («благородный камень»). Прямой связи с профессией предка здесь нет — это скорее «ювелирная» фантазия, нежели указание на ремесло.

Интересно, что фамилия бытует в двух основных вариантах написания: Рубштейн и Рубинштейн. Второй вариант более распространён и прозрачен по смыслу: «рубин» + «штейн». Рубштейн — это, скорее всего, фонетическое упрощение, когда в быстрой речи или при записи выпал слог «ин». Встречается и вариант Рубенштейн, что сближает фамилию с библейским именем Рувим (Reuven), но это, вероятно, вторичное осмысление уже готовой фамилии.

Географически фамилия Рубштейн тяготеет к западным губерниям Российской империи — Украине, Белоруссии, Молдавии, а также к Царству Польскому. Встречается она и у евреев, эмигрировавших в США и Израиль. В России после революции фамилия нередко русифицировалась: некоторые носители меняли окончание на -ов, превращаясь в Рубштейнов, или укорачивали до Рубина.

Социальный состав предков — в основном местечковые евреи: ремесленники, мелкие торговцы, портные, сапожники. Знатных или дворянских корней у фамилии нет, как нет и связи с конкретным географическим топонимом — Рубштейн не указывает на место, а описывает вымышленный камень.