Фамилия Грубштейн — почти наверняка ашкеназского происхождения. В основе лежит немецкая или идишская лексика, а конечное -штейн («камень») — один из характерных формантов еврейских фамилий, появившихся в Австрийской империи и Пруссии на рубеже XVIII–XIX веков. По тому же принципу образованы фамилии Вайнштейн, Гольдштейн, Розенштейн.

Первая часть фамилии указывает на место. Скорее всего, в основе лежит топоним Грубе — так называется городок в земле Шлезвиг-Гольштейн на севере Германии. Само слово Gruobe по-немецки значит «яма» или «впадина», что типично для названий поселений, возникших у оврага или карьера. Человек, получивший прозвище Грубштейн, мог быть выходцем оттуда: в еврейской ономастике такие «географические» фамилии давали тем, кто переезжал из маленького города в крупный. Фамилия буквально означает «камень из Грубе» — по модели, схожей с фамилией Берлинштейн (из Берлина).

Вторая возможная версия — что груб- не топоним, а прямое заимствование из идиша или немецкого grob («грубый», «крупный»). Тогда фамилия могла быть прозвищной: «грубый камень» — то ли по характеру, то ли по ремеслу (например, обработчик грубого камня, бутобой). Однако эта гипотеза слабее: в ашкеназских фамилиях прилагательное в чистом виде перед -штейн встречается редко, а топонимическая модель — сплошь и рядом.

В России фамилия зафиксирована у еврейского населения. В Книге памяти Иркутской области упоминается Грубштейн Иуда Моисеевич, 1896 года рождения, уроженец села Болотинского района Красноярского края. Эта запись — одно из немногих документальных свидетельств бытования фамилии в Сибири, куда ашкеназские евреи попадали в ходе переселенческих волн конца XIX — начала XX века.