Фамилия Шегельман — это относительно редкая фамилия, в строении которой отчётливо видна немецкая модель. Она состоит из корня «Шегель» и типичного немецкого компонента «-ман» (Mann — «человек»). Такие фамилии в немецком языке обычно указывали либо на профессию, либо на характерную черту человека, либо на место его происхождения.

Наиболее вероятная версия связывает фамилию с немецкой фамилией Schegelmann или Schlegelmann. В основе лежит слово «Schlegel» (Шлегель) — это молот, киянка, а в переносном значении — «дробящий», «разбивающий». В таком случае Шегельман — это прозвище человека, работавшего с молотом: кузнеца, камнетёса, или же того, кто производил или продавал молоты. Возможна и другая, менее очевидная связь: в некоторых диалектах «Schlegel» могло означать «засов» или «щеколда», и тогда фамилия могла достаться изготовителю дверной фурнитуры. Переход «Schlegel» в «Шегель» (без «л» в первом слоге) — это результат адаптации немецкого звучания к русской фонетике, где сочетание «шл» не всегда приживалось в начале слова.

С точки зрения словообразования, фамилия Шегельман не получила русского суффикса (-ов, -ин). Это значит, что она вошла в русский быт в готовом виде, без дополнительного оформления по модели «чей сын». Так обычно происходило с фамилиями немецких колонистов, приглашённых в Россию в XVIII–XIX веках, или с фамилиями прибалтийских немцев.

Географически фамилия Шегельман тяготеет к тем регионам, где исторически селили немецких переселенцев: Поволжье, юг Украины, а также Санкт-Петербургская губерния. Встречается она и в еврейской среде, где могла быть образована от названия местечка Шегель (такой топоним существует в Восточной Европе) или же быть вариантом фамилии Шегель, к которой добавили «-ман» для придания более «немецкого» звучания — это было распространённой практикой среди ашкеназских евреев в XIX веке.

Однокоренные фамилии (Шегель, Шегельский, Шеглов) не имеют к Шегельману прямого отношения, так как происходят от разных корней. Шегельман — это почти всегда указание на конкретного носителя немецкого языка или на человека, жившего в немецкой среде, и его основное значение — «человек с молотом», то есть ремесленник.