Фамилия Колбергс — редкий для России пример, когда фамилия не была русифицирована, а сохранила латышскую форму. В русской среде её могли бы переделать в Колбергов, но носители, судя по окончанию, либо сами латыши, либо происходят из семей, где фамилию не адаптировали к славянским суффиксам. Основа здесь — немецкая или скандинавская: «Коль» (Kohl — капуста, либо сокращение от имени Николаус) и «берг» (Berg — гора). Вместе это «капустная гора» или «гора Коля», но в ономастике такие составные фамилии чаще отсылают к названию места: хутора, мызы или усадьбы, где жили первые носители.

Суффикс -с в конце — типичный латышский показатель фамилий мужского рода (сравните: Озолс, Берзиньш). Женская форма в латышском языке образуется иначе, но в русском контексте фамилия остаётся неизменяемой. Если ваш предок носил Колбергс, он почти наверняка был крестьянином или ремесленником из Курляндии или Лифляндии (современная Латвия) в XIX веке, когда латышам массово присваивали фамилии по немецкому образцу. Дворянской эта фамилия быть не могла: немецкие бароны писались как фон Колберг, без латышского окончания.

Версия о происхождении от топонима Колберг (Kolberg) в Померании (ныне польский Колобжег) маловероятна для латышской формы — переселенцы оттуда обычно получали фамилию Колбергский или Колбергов. Так что Колбергс — это латышский вариант, застывший в написании. Если вы встретили эту фамилию в России, скорее всего, её привезли в XX веке, в ходе миграций или депортаций, и она не успела обрасти русскими суффиксами.