Фамилия Марголина — яркий пример того, как еврейское имя, пройдя через русскую языковую среду, превратилось в фамилию. В её основе лежит женское имя Маргалит, что в переводе с иврита означает «жемчуг» или «жемчужина». В ашкеназском произношении это имя звучало как Маргулис, но для образования фамилии использовалась не полная, а уменьшительная форма — Марголя. Именно эта русская ласкательная версия имени и стала основой, к которой добавили типичный русский суффикс принадлежности -ин, указывающий на родство: чья? — Марголина.

Словообразовательная модель здесь проста и прозрачна: от имени или прозвища Марголя (человек, которого ласково называли «жемчужинкой») образовали отчество, которое со временем закрепилось как фамилия. Суффикс -ин в русских фамилиях традиционно указывает на принадлежность к отцу или матери, поэтому первоначально Марголина означало «дочь (или жена) Марголи». Однако, в отличие от подавляющего большинства русских фамилий на -ин, которые образованы от мужских имён (Иван — Иванов, Пётр — Петров), здесь исходная основа — женское имя. Это нетипично для русской традиции, но характерно для еврейских фамилий, где нередко за основу брали имя матери, особенно в семьях, где женщина играла заметную роль или носила редкое красивое имя.

В ономастике существует и параллельная версия, связывающая фамилию с топонимом — местечком Маргулис на территории современной Литвы. По этой гипотезе, предок носителей фамилии мог быть выходцем из этого селения, а фамилия указывала на место его происхождения. Однако версия с личным именем Маргалит / Марголя выглядит убедительнее: она объясняет и широкую распространённость фамилии среди еврейского населения Восточной Европы, и её прямую смысловую связь с красивым символом — жемчугом. Фамилия Марголина — женская форма; мужской вариант — Марголин, и оба они фиксируются в документах Российской империи с конца XVIII века, когда евреям начали массово присваивать фамилии.