Вероятно, оно состоит из двух немецких слов: Kreis – «круг» и Berg – «гора». Возможно, так называли человека, жившего на некой круглой горе, холме или другой возвышенности. Однако первая часть прозвища может восходить и к немецкому слову Kreuz - «крест». Соответственно, в этом случае оно переводится как «крест на горе». Существовал и город Крейзберг, родом из которого также мог быть родоначальник Крейцбергов. Ныне он называется Хафка (Hafka) и находится в Словакии. Так, в Книге памяти Республики Башкортостан записана Крейцберг Анна Федоровна, которая родилась в 1896 году в Латвии. В Ленинградском мартирологе упоминается Крейцберг Жан Людвигович, рожденный в 1892 году в Риге. Также известна Крейцберг Зельма Кришановна, рожденная в 1895 году (Латвия, Курляндская губерния, Баусский уезд, имение Борносеменовское). В Книге памяти Псковской области отмечен Крейцберг Михаил Михайлович, рожденный в 1874 году в Курляндии.