Фамилия Клоустер — редкий пример фамилии, в основе которой лежит не русское, а немецкое слово, и которая при этом получила русское окончание. Всё указывает на то, что перед нами фамилия немецкого происхождения, переоформленная на русский лад.

Исходное слово — немецкое Kloster, что значит «монастырь». В немецком языке это слово пишется через t, но в русской передаче оно могло закрепиться в форме «Клоустер» (с гласной «у» на месте долгой «о»), что характерно для диалектного произношения или для записи фамилии на слух. Таким образом, прозвище или фамилия Клоустер могла означать человека, жившего при монастыре, работавшего на монастырских землях или, реже, происходившего из монастырского поселения. В немецкой ономастике фамилия Kloster встречается, хотя и не массово, и часто указывает на место жительства или службы.

Фамилия Клоустер не имеет русского суффикса (-ов, -ин, -ский), а заканчивается на -ер, что для немецких фамилий типично. Это суффикс деятеля: Klosterer — буквально «монастырский», «тот, кто при монастыре». В русском языке фамилия могла сохраниться без изменений, либо подвергнуться адаптации на письме. Встречаются варианты написания: Клостер, Клоустер, реже Клаустер.

Наибольшая вероятность встретить носителей фамилии — в регионах исторического проживания российских немцев: Поволжье, Причерноморье, Западная Сибирь, а также в Санкт-Петербурге и Москве, куда немцы переселялись по приглашению правительства в XVIII–XIX веках. Если предки носителя фамилии были немцами-колонистами, то Клоустер могло быть не личным прозвищем, а фамилией, данной по месту выхода: например, из местечка с названием Клостер (Kloster) в Германии или Австрии.

В редких случаях, если фамилия встречается у русского человека без немецких корней, можно предположить семинарское происхождение: её могли дать в духовной семинарии выходцу из монастырской среды, но это менее вероятно — для таких случаев типичнее фамилии вроде Монастырёв или Монастырский. Версия с немецким корнем остаётся основной и самой логичной.