Фамилия Крубер чаще всего — фонетический вариант немецкой фамилии Грубер. Звук «г» в начале слова мог перейти в «к» под влиянием диалектного произношения или при адаптации фамилии в русской языковой среде, где сочетание «гру-» иногда воспринималось как нехарактерное.

Основа фамилии — немецкое слово Grube, то есть «яма, нора», а также «шахта, рудник». Суффикс -ер в немецком языке типичен как для обозначения жителя (тот, кто живёт у ямы или в землянке), так и для названия профессии (шахтёр, рудокоп). Поэтому первым носителем прозвища Грубер мог быть либо человек, живший в землянке или в низине, либо рабочий на руднике.

По другой версии, фамилия могла восходить к идишскому слову grub — «грубый, невежливый». В этом случае прозвище давали человеку с соответствующим характером. Фамилия Крубер действительно встречается и у немцев, и у евреев-ашкеназов, что подтверждается, например, записями в «Одесском мартирологе», где упомянуты Крубер Магдалина Николаевна (1934 г. р.) и Крубер Николай Иванович (1892 г. р.).

Самая известная фигура с этой фамилией — Александр Александрович Крубер (1871–1941), выдающийся советский географ и профессор, основоположник русской и советской карстологии. Он изучал карстовые структуры Восточно-Европейской равнины, Крыма и Кавказа. В его честь названы горный хребет на острове Итуруп (хребет Крубера), карстовая впадина на плато Караби-яйла в Крыму и пещера Крубера-Воронья на Кавказе — одна из глубочайших пещер мира.