Фамилия Ельдиштейн — яркий пример ашкеназской фамилии, построенной по модели «топоним + немецкий суффикс -штейн» (буквально «камень»). В немецко-еврейской ономастике такие фамилии часто указывали на место, откуда человек родом. Первая часть — Ельди- — скорее всего, искажённое название местечка Ельди (Eldi) или Ельд (Eld) в Восточной Европе. Точная географическая привязка затруднена: на картах Литвы, Беларуси или Польши XIX века встречаются мелкие поселения с похожими названиями (например, Ельдишки в Виленской губернии), но единого крупного города Ельди не было. Поэтому Ельдиштейн — «камень из Ельди» или «человек из Ельди».

Модель на -штейн была особенно популярна в конце XVIII — начале XIX века, когда еврейское население Российской империи и Австро-Венгрии массово получало фамилии. Чиновники часто записывали название деревни или местечка на слух, что порождало варианты: Ельдиштайн, Ельдистейн, Ельдиштин. Встречается и форма Ельдиштейнов — русифицированный вариант, когда к основе добавили русский суффикс -ов.

Корень «ельд» может восходить к балтийскому или славянскому топониму, связанному с лесом или болотистой местностью (ср. лит. eldija — «лодка» или eldis — «ольха»). Однако это лишь гипотеза: точная этимология первой части теряется в диалектах и канцелярских ошибках.

Фамилия редкая. В дореволюционных метрических книгах носители Ельдиштейн встречаются в основном в черте оседлости — в Минской, Витебской и Ковенской губерниях. Сословно это были мещане или купцы, реже — раввины. В советское время фамилия почти исчезла из-за эмиграции и ассимиляции, сейчас её можно найти у потомков, живущих в Израиле, США и Германии. Споров о происхождении немного: версия с топонимом Ельди — самая правдоподобная, а попытки вывести фамилию из немецкого Elde («старость») выглядят натяжкой, так как суффикс -штейн в таких случаях не типичен.