Фамилия Пебалг — редкий случай, когда за основой угадывается не прозвище человека, а целая географическая история. Скорее всего, фамилию образовали от названия замка Пиебалг, что стоял недалеко от современного города Вецпиебалга в Латвии. Основатель рода, носившего эту фамилию, вероятно, происходил из тех мест, и его прозвание по месту рождения закрепилось за потомками.

Пиебалга впервые упомянута в исторических документах в 1318 году. В 1340 году рижский архиепископ Фридрих построил здесь замок и церковь. Церковь сильно пострадала в 1577 году, когда эти земли прошло войско Ивана Грозного. Позже, в 1599–1625 годах, замок и округа принадлежали польскому полководцу Дембинскому. В XVII веке от Пиебалги отделили Яунпиебалгское имение, и тогда прежнее поселение стали называть Вецпиебалгой — то есть Старой Пиебалгой.

Дальше в истории этих мест появляется русский след. В 1710 году фельдмаршал Шереметев завоевал Видземе и попросил Петра I передать ему Вецпиебалгу и Яунпиебалгу. Обе усадьбы оставались во владении потомков Шереметева вплоть до Октябрьской революции. Так что человек, от которого пошла фамилия Пебалг, мог быть выходцем из местности, десятилетиями связанной с русским дворянским родом.

Сама фамилия выглядит как русифицированная передача латышского названия: звук «п» на стыке с «б» в оригинальном «Пие-балг» упростился, а окончание подстроилось под привычную модель. Точных сведений о том, когда именно фамилия закрепилась, нет, но её редкость говорит о том, что род мог быть немногочисленным или фамилия бытовала в узком кругу потомков одного переселенца.