Фамилия Голле образована от аналогичного прозвища, которое, скорее всего, восходит к немецкому слову holle, то есть «впадина», «яма», «пещера». Вполне вероятно, что это прозвище отражало место жительства родоначальника (в овраге или пещере). Согласно другой гипотезе, прозвище Голле ведет свое начало от средненемецкого слова goll, то есть «феодальная зависимость». Исходя из этого, можно предположить, что прозвище мог получить крепостной человек.