Фамилия Юделсон — редкий для России пример фамилии, образованной по еврейской (ашкеназской) модели на -сон. Суффикс -сон (от немецкого Sohn — «сын») присоединяли к имени отца, чтобы получить фамилию для детей. В данном случае основа — мужское имя Юдель (вариант Иуда, Иегуда), которое в идишской традиции звучало как Юдл или Йудл. Таким образом, Юделсон — буквально «сын Юделя».

Само имя Юдель восходит к библейскому Иуде (евр. Йегуда) — четвёртому сыну Иакова, от которого, по преданию, произошло колено Иудино. В обиходе у евреев Восточной Европы имя приобрело уменьшительно-ласкательную форму с суффиксом -л, которая и закрепилась в фамилии. Фамилии на -сон особенно характерны для еврейского населения Российской империи, жившего в черте оседлости — на территориях современных Украины, Беларуси, Польши и Литвы.

Встречается также вариант написания Юдэлсон (с буквой «э»), который точнее передаёт произношение в идише. Иногда фамилию путают с похожей по звучанию, но иной по происхождению фамилией Юдельсон, где основа могла быть связана с немецким словом edel — «благородный». Однако для фамилии Юделсон версия с именем Юдель основная и подтверждается типовой моделью ашкеназских фамилий.

Социальный состав носителей был пёстрым: среди Юделсонов встречались и ремесленники, и торговцы, и люди интеллигентных профессий. Фамилия не указывает на принадлежность к какому-то одному сословию — её носили как бедные еврейские семьи из местечек, так и те, кто добился права жить вне черты оседлости. В современной России фамилия остаётся малочисленной, но её носители живут в крупных городах, а также в Израиле и США, куда эмигрировали в конце XIX — начале XX века.