Фамилия Шертман — редкий для России случай, когда модель образования ясна, а происхождение основы — нет. Перед нами типичная немецкая или еврейская фамилия на -ман (нем. Mann — «человек»), которая в русской среде писалась на слух. Первая часть, «шерт», — это и есть главная загадка.

В немецком языке слово Schurt (от schürzen — «подпоясывать, подтыкать») могло относиться к фартуку или переднику. В этом случае Шертман — прозвище ремесленника: портного, кузнеца или пекаря, чья работа требовала постоянного фартука. Такие профессиональные прозвища были очень распространены: ср. Шнейдерман (портной), Беккерман (пекарь).

Вторая версия, менее вероятная, но возможная для еврейских носителей фамилии, — от идишского שרץ (ше́рец) — «гад», «пресмыкающееся». Однако это прозвище было бы уничижительным, и вряд ли его закрепили бы в качестве фамилии. Скорее всего, мы имеем дело с искажением исходного немецкого слова при записи в документах.

Фамилия Шертман почти не встречается в исторических источниках XVIII–XIX веков, что говорит о её позднем закреплении. Она бытовала в черте оседлости (Украина, Белоруссия, Польша) и у поволжских немцев. Суффикса -ов/-ин нет, поэтому сословную принадлежность предков определить невозможно: фамилия не прошла русификацию, её носителями могли быть и мещане, и ремесленники, и крестьяне-колонисты.

Сравнение с однокоренными фамилиями (Шертер, Шертнер, Шертлинг) показывает, что корень «шерт» устойчиво ассоциируется с немецкими диалектами юга Германии и Австрии, где слово Schurz означало именно фартук. Таким образом, наиболее правдоподобная версия: предок Шертман — человек, которого в общине знали по характерному предмету одежды, скорее всего, мастеровой.