Фамилия Ландау — одна из тех, что не вписывается в типичную русскую модель образования на -ов, -ин или -ский. Её происхождение напрямую связано с немецким языком и культурой, что сразу указывает на вероятное географическое и социальное происхождение предков. Основных версий две, и обе имеют под собой реальную основу.

Первая версия отталкивается от названия экипажа. В немецком слово «Landau» обозначало четырёхместный экипаж или автомобиль с откидным верхом. Согласно этой гипотезе, предок мог быть владельцем такого транспорта, что в те времена было заметным признаком достатка и статуса. Прозвище, данное по имуществу, — распространённый приём в ономастике, поэтому эта версия вполне правдоподобна, хотя и не единственная.

Вторая, и более обоснованная гипотеза, связывает фамилию с топонимом — немецким городом Ландау (Landau in der Pfalz), расположенным в прирейнской Баварии на реке Квейхе. В основе названия города лежит слово «Land» — «земля, край, страна». Такие фамилии по месту происхождения (так называемые топонимические) были особенно распространены среди еврейского населения Германии и Восточной Европы. В конце XVIII — начале XIX века, при обязательном присвоении фамилий, многие еврейские семьи брали название города, из которого происходили, или где жили. Именно поэтому фамилия Ландау столь характерна для ашкеназских евреев.

Словообразовательная модель здесь проста: фамилия представляет собой чистый топоним без суффикса, что типично для немецких фамилий, перешедших в другие языки без изменений. В русском контексте она не склонялась по падежам, как это свойственно многим заимствованным фамилиям.

Учитывая распространённость фамилии в еврейской среде, версия с городом Ландау выглядит значительно весомее, чем гипотеза с экипажем. В ономастических трудах, например, в работах Б. Унбегауна, указывается, что фамилии, образованные от немецких городов, — частый случай для еврейских фамилий Германии. Таким образом, предки носителей фамилии Ландау, скорее всего, происходили из этого баварского города или его окрестностей.