Фамилия Новаовская — редкий случай, когда написание подсказывает разгадку быстрее, чем корень. Двойное «о» в суффиксальной части — «-овов-» — выглядит как опечатка или результат слияния двух разных формантов. Скорее всего, перед нами не простая фамилия на «-овский», а патроним, осложнённый ещё одним суффиксом.

В основе лежит имя или прозвище Новой. В старых русских говорах «новой» — то же, что «новый»: новичок, недавний поселенец, человек, только что вступивший в общину. От этого прозвища образовали фамилию Новой — по модели «чей?» (Новова жена, Нововы дети). Затем, по распространённому в дворянской и шляхетской среде обычаю, к ней прибавили польско-украинский суффикс «-ский», который придавал фамилии «благородное» звучание. Так Новой стал Новаовским, а женский вариант — Новаовская.

Двойное «о» в середине — не ошибка, а след этого двухступенчатого образования: корень «нов-», суффикс принадлежности «-ов-», потом фамильный «-ск-» и окончание. Встречается и упрощённое написание — Новавский или Новавская, но исходная форма с двумя «о» точнее отражает историю.

Географически фамилия тяготеет к западным и южным регионам бывшей Речи Посполитой — современные Беларусь, Украина, восток Польши. Там модель «основа на -ов + -ский» была особенно популярна среди мелкой шляхты и однодворцев, которые таким способом подчёркивали свой статус. Предки Новаовских, скорее всего, были небогатыми землевладельцами или вольными крестьянами, получившими прозвище за то, что обживали новое место.

Встречается и более простая версия: от географического названия вроде Новаово или Новая. Но таких топонимов с двойным «о» в источниках почти нет, так что прозвищное происхождение выглядит надёжнее.