Фамилия Гандау — редкий случай в русском ономастиконе. Её происхождение напрямую связано с географией: это классическая немецкая фамилия, образованная по модели «название места + суффикс -ау». В немецком языке суффикс -au означает «луг, пойма, приречная низменность». Соответственно, Гандау — это указание на выходца из населённого пункта с таким названием. Известно несколько мест в Германии, носивших имя Gandaу или Gandau, например, бывшая деревня в окрестностях Бреслау (ныне Вроцлав, Польша). Носитель фамилии, скорее всего, получил её при переезде, как «тот, кто из Гандау».

В русский язык фамилия попала вместе с волнами немецких переселенцев в XVIII–XIX веках, прежде всего в Поволжье, Причерноморье и Прибалтику. Склоняется она по правилам русского языка как несклоняемая мужская фамилия на -у (Иван Гандау, у Ивана Гандау), хотя в бытовой речи иногда встречается вариант «Гандау» в женском роде без изменений. В отличие от большинства русских фамилий, здесь нет патронимического суффикса (-ов, -ин, -ский), что сразу выдает её нерусское происхождение.

Словообразовательная модель проста: корень Gand- (вероятно, от древневерхненемецкого gant — «гусь» или личного имени Gando) и топонимический формант -au. Иными словами, исходное название могло означать «гусиный луг» или «земля Гандо». Альтернативная версия, связывающая фамилию с еврейским ашкеназским прозвищем от идиш гандов — «вор», — менее правдоподобна, так как модель с -au нехарактерна для еврейских фамилий восточной Европы, где чаще встречаются суффиксы -ман, -берг, -штейн.

Встречаемость фамилии в России и странах бывшего СССР крайне низкая. Она сохранилась в основном у потомков немецких колонистов, прошедших через депортацию 1941 года, и сегодня сосредоточена в Сибири, на Алтае и в Казахстане. Русская транскрипция устойчива, вариантов написания вроде «Гандауф» или «Гандауэр» практически не фиксируется — фамилия застыла в той форме, в какой её записали в метрические книги при переселении.