Фамилия Эрльбаум — редкий случай для русской ономастики, так как она не славянского, а немецкого или ашкеназского происхождения. Её основа — сложное слово, которое переводят с немецкого как «раннее дерево» (Erle — ольха, Baum — дерево). Однако прямой перевод «ольховое дерево» не совсем точен: в немецких фамилиях Erlebaum или Erlbaum чаще всего указывает на человека, жившего возле ольховой рощи, или на того, кто владел таким участком. В еврейской (ашкеназской) среде фамилия могла быть искусственной, составленной из двух немецких корней по типичной для XIX века модели, когда евреям присваивали «красивые» фамилии по природным мотивам.

Словообразовательная модель Эрльбаум — чисто немецкая: это определительное сложение без суффикса. В русском контексте фамилия не склонялась по славянским моделям, а осталась в виде прямой транслитерации. В дореволюционной России её могли носить либо немецкие колонисты (например, из Поволжья), либо еврейские семьи из черты оседлости. Различить эти две группы по одной фамилии почти невозможно, если не знать точной географии предков.

Есть и менее очевидная версия: в некоторых немецких диалектах «Erl» могло означать не ольху, а искажённое «Ur» (первобытный) — тогда фамилия трактовалась бы как «древо предков» или «родовое дерево». Но эта гипотеза слабая, так как письменные источники фиксируют именно ботанический корень.

В современной России фамилия встречается редко, в основном в крупных городах. Её носители — потомки либо обрусевших немцев, либо еврейских семей, переживших Холокост и эмиграцию. Из-за нехарактерного для русского языка сочетания «эрль» и отсутствия суффикса фамилия легко опознаётся как иноязычная даже без лингвистического анализа.