Фамилия Гольба образована от аналогичного прозвища, которое восходит к польскому диалектному слову golba - «выступающее, выдающееся вперед колено». Согласно этому, такое прозвище указывало на внешние особенности предки — Гольбой могли прозвать очень худого человека.