Фамилия Пильберг — один из тех случаев, когда носитель русского языка слышит в ней что-то нерусское, и это верно. Это типичная немецкая или еврейская (ашкеназская) фамилия, сложенная по модели, распространённой в германских языках: основа + компонент «-берг» (Berg — гора). Вторую часть разобрать просто, а вот первая, «Пиль-», даёт простор для двух основных версий.

Самая вероятная версия возводит основу к немецкому слову «Pilz» — гриб. В южнонемецких диалектах, особенно баварском и австрийском, «Pilz» звучит как «Pil» или «Pül». Тогда Пильберг — это «грибная гора». Фамилия могла закрепиться за человеком, жившим у горы, поросшей грибами, или занимавшимся их сбором и продажей. В немецкой ономастике фамилии на «-berg» часто указывали на место жительства у конкретной возвышенности, а первая часть уточняла её примету.

Вторая версия, менее распространённая, но имеющая право на существование, связывает «Пиль» с именем собственным. В немецком языке есть форма «Pil» как сокращение от имени Пилип (Philipp) или от славянского имени Пиль (Пимен). В таком случае фамилия Пильберг могла означать «гора (или поселение) человека по имени Пиль/Филипп». Однако эта версия слабее: топонимические фамилии с личным именем в первой части обычно оформлялись через притяжательный суффикс (например, Пильсберг), а не через чистую основу.

В Российской империи фамилия Пильберг встречалась прежде всего среди немецких колонистов Поволжья и Причерноморья, а также среди еврейского населения западных губерний (в основном в черте оседлости). У еврейских носителей фамилия часто была искусственной, присвоенной в XIX веке по указу о фамилиях, и могла быть составлена из двух красивых немецких корней без прямой привязки к месту жительства. В любом случае, предки современных Пильбергов с высокой вероятностью были выходцами из немецкоязычной среды, говорившими на одном из южных диалектов, где слово «гриб» звучало именно так.