Фамилия Крембергс — латышская по форме, но с немецким корнем. Латышский суффикс -s указывает на мужской род в именительном падеже, а окончание -с — типичный латышский способ адаптации иноязычной фамилии. Без этого суффикса основа звучит как Кремберг — немецкая фамилия, которая и легла в основу.

Разбираем немецкую часть. Первый компонент — Krem — скорее всего, восходит к немецкому «Krem» (крем, сливки, мазь). Второй компонент — Berg — переводится как «гора». Прямого смысла «кремовая гора» в немецком языке нет, но в фамилиях такие составные прозвища нередко указывали на место жительства или род занятий. Человек по прозвищу Кремберг мог владеть землёй, где пасли скот и делали сливки, или, что вероятнее, быть производителем или продавцом косметических средств либо кондитерских изделий — в немецких городах мастера-кондитеры и аптекари нередко получали прозвища по товару.

Менее убедительная версия связывает первый корень с немецким «Krām» (лавка, мелочный товар). Тогда Кремберг — это «торговая гора» или, в переносном смысле, торговец, у которого товара — гора. Однако звуковой переход от «Krām» к «Krem» нехарактерен для немецких диалектов, поэтому эта гипотеза уступает первой по правдоподобию.

Фамилия Крембергс бытует почти исключительно в Латвии и среди латышской диаспоры. Встречается и вариант Кремберг — без латышского окончания, но с тем же корнем. Носители фамилии, скорее всего, потомки латышских крестьян или горожан, получивших немецкую фамилию в период, когда немецкое дворянство и бюргерство доминировали в Прибалтике. Латышский суффикс -с закрепился за фамилией в XIX веке, когда латыши массово оформляли фамилии по немецким образцам, но с национальным окончанием.