Фамилия Гульбис образована от дохристианского имени Гульбис, которое восходит к аналогичному литовскому существительному со значением «лебедь». Вероятно, имя Гульбис имело охранительное значение. Дело в том, что в прежние времена наречение ребёнка именем, представляющим собой название животного или растения, было очень распространённой традицией. Давая младенцу такое имя, как Гульбис, родители хотели, чтобы природа воспринимала ребёнка как своего, чтобы к нему перешли грация и изящество, которыми наделен лебедь.