Фамилия Пеккерман — редкий для России пример фамилии, образованной на стыке двух культурных традиций: немецкой и еврейской (ашкеназской). Её основа — немецкое слово «Packer» (упаковщик, грузчик, укладчик) или диалектное «Pecker» (в некоторых регионах — «дровосек»). Суффикс «-ман» (-mann) в немецких и еврейских фамилиях обычно означал «человек, связанный с чем-то» или просто «человек». Таким образом, Пеккерман — это «человек, который упаковывает» или «грузчик».

В еврейской среде Восточной Европы фамилии на «-ман» были особенно распространены в XIX веке, когда власти Австрийской и Российской империй обязали евреев закрепить наследственные фамилии. Многие из них были образованы от названий профессий на идише или немецком. «Пеккер» на идише могло означать «упаковщик» или «носильщик» — вполне конкретное ремесло в местечковой экономике, где товары перевозили и складировали вручную. Поэтому наиболее вероятно, что первый носитель фамилии Пеккерман работал на складе, в порту или на рынке.

Второй, менее распространённый вариант происхождения — от немецкого слова «Pech» (смола, дёготь). В таком случае «Pecker» могло быть прозвищем смолокура или человека, работавшего с дёгтем. Тогда Пеккерман — «смолокур» или «дёгтевар». Однако эта версия слабее, так как в немецких фамилиях профессия «смолокур» чаще передавалась через основу «Pech-» без суффикса «-er» (например, Pechmann).

В России фамилия Пеккерман встречается редко и почти исключительно в среде потомков еврейских переселенцев из черты оседлости (территории современных Украины, Беларуси, Польши). Вариант написания с двумя «к» (Пеккерман, а не Пекерман) указывает на то, что фамилия могла быть записана по немецким орфографическим правилам, где удвоение согласной подчёркивает краткость предыдущего гласного. В метрических книгах и паспортах Российской империи написание часто искажалось, поэтому возможны варианты Пекерман, Пеккерманн, а также русифицированные формы вроде Пеккерманов.