Фамилия Маргулес — один из ярких примеров ашкеназской еврейской ономастики, и её разбор стоит начать не с корня, а с географии и социального контекста. Это фамилия, которая практически не встречается у славянского населения, а её носители — почти исключительно потомки евреев, живших на территории бывшей Речи Посполитой, в частности в Литве, Беларуси и Украине. В дореволюционных метрических книгах и переписях фамилия фиксируется в таких городах, как Вильна (Вильнюс), Минск, Гродно, а также в местечках Волынской и Подольской губерний.

Этимологически Маргулес восходит к библейскому женскому имени Маргалит (ивр. מרגלית — «жемчужина»). В ашкеназской традиции это имя давали девочкам, и от него образовалась патронимическая фамилия: Маргулес буквально означает «сын (или потомок) Маргалит». Важно, что суффикс -ес (в идишском произношении -ес или -ис) — это типичный ашкеназский матронимический формант, который присоединяли к имени матери. Такая модель была распространена в еврейских общинах Восточной Европы: если мать звали Маргалит, её дети получали фамилию Маргулес, а не, скажем, Маргулевич (что было бы логично для отчества, но матроним здесь первичен).

Существует и менее вероятная, но упоминаемая в ономастической литературе версия: связь с немецким словом Margel (глина, мергель) или с названием прусского города Маргграбова (ныне Олецко в Польше). Однако эта гипотеза слабая: топонимические фамилии у евреев этой группы обычно оформлялись иначе (например, через -ер: Маргграбер), а массовое бытование Маргулес именно в черте оседлости, а не в Пруссии, говорит в пользу семитского корня.

В написании фамилии встречаются варианты: Маргулис, Маргулес, Маргулис. Разница в окончании (-ис vs -ес) связана с диалектными особенностями идиша: в литовском (северном) диалекте чаще звучало «Маргулес», в польском и галицийском — «Маргулис». В русских документах XIX века закрепилось написание через «е» или «и» в зависимости от того, где семья жила при получении паспорта. Сама фамилия не указывает напрямую на род занятий предка: это не ремесленное прозвище, а именная метка. Но в среде, где фамилии давали по имени матери, Маргулес может говорить о том, что в семье помнили и чтили женщину по имени Жемчужина.

Если сравнивать с однокоренными фамилиями, то Маргулес стоит в одном ряду с Перельман (от Перл — жемчуг на идише) и Маргалит (в израильском варианте). Разница в том, что Перельман — это искусственная фамилия, образованная от слова «жемчуг» с добавлением -ман (человек), а Маргулес — матроним, сохранивший архаичную форму имени.