Фамилия Каудзе — редкий случай, когда география бытования почти однозначно указывает на происхождение. Носители этой фамилии — преимущественно латыши или потомки выходцев из Латвии. Корень «Кауд-» восходит к латышскому слову kauds — «куча», «скирда», «стог» (сена, соломы). В старину так могли прозвать крестьянина, который занимался укладкой сена, либо человека плотного, коренастого телосложения — по ассоциации с формой стога.

Окончание «-зе» — типичный латышский патронимический суффикс (аналог русских -ов/-ев), указывающий на принадлежность: «сын Кауда». В латышской ономастике фамилии на -зе (а также на -с, -анс) массово закрепились в XIX веке, когда крестьянам Прибалтики давали фамилии по прозвищам, занятиям или именам отцов. Каудзе, таким образом, дословно означает «Каудов» или «из рода Кауда».

Встречается и иная версия: связь с литовским kaudė — «кузница». Но литовская модель образования фамилий чаще даёт окончание -ис или -ас, а не -зе. Поэтому латышский корень надёжнее, тем более что фамилия Каудзе фиксируется в исторических документах именно на территории Курземе и Земгале.

Социальный контекст прост: предки носителя фамилии — скорее всего, крестьяне-батраки или арендаторы, чья жизнь была тесно связана с сенокосом и скотоводством. Прозвище Каудс могло закрепиться за человеком, который «своим» стогом отличался от других — либо по размеру, либо по аккуратности укладки. Дворянских корней у этой фамилии нет: в остзейском рыцарстве и немецкоязычной элите такие прозрачные крестьянские прозвища не встречались.

В написании фамилии возможны варианты: Каудзе, Каудзэ, изредка Каудс — в зависимости от русификации при советских паспортизациях. Но исходная форма на -зе сохранилась у большинства носителей, что делает фамилию хорошим маркером латышского происхождения.