Фамилия Вагау — редкий случай, когда географическая привязка оказывается важнее, чем разбор корня. Носители этой фамилии почти поголовно встречаются в одном регионе — на юго-востоке Башкортостана, в частности в Зианчуринском районе и соседних сёлах. Если вы встретили Вагау за пределами Урала или Башкирии, скорее всего, это потомки мигрантов оттуда.

Словообразовательная модель здесь необычная для русской фамилии. Окончание -у — не русский суффикс, а тюркский аффикс принадлежности или уменьшительно-ласкательная форма. В башкирском и татарском языках основа «вага» или «ваҡа» может означать «мелкий», «мелочь», «пустяк». Соответственно, прозвище Вагау могло закрепиться за человеком невысокого роста, щуплого телосложения или, в переносном смысле, за тем, кто не придавал значения пустякам. Есть и вторая, менее вероятная версия: от арабского «вакаа» — «достоинство», «солидность», но тогда форма была бы иной.

Фамилия не получила распространения в центральных губерниях России. Она не попала в классические словари русских фамилий (Унбегауна, Никонова, Веселовского) именно из-за своей региональной и этнической замкнутости. Это не дворянская и не купеческая фамилия — её носили крестьяне-башкиры или тептяри, принявшие православие, но сохранившие тюркское прозвище в качестве фамильного имени.

В советское время, при паспортизации, форма Вагау закрепилась и не склонялась. Если вы ищете свои корни, стоит смотреть не в общероссийские архивы, а в метрические книги Оренбургской губернии (до революции эта территория относилась к ней) и в ревизские сказки по башкирским волостям.