Фамилия Новой — редкий случай, когда написание подсказывает происхождение точнее, чем произношение. Это не фамилия вроде Новиков, где корень «нов-» очевиден, а её усечённый, «окающий» вариант. Если Новиков — «чей-то сын» от прозвища Новик (новый человек, новичок, рекрут), то Новой — это прямое притяжательное прилагательное: «чей?» — Нового, «кто?» — Новой. Суффикс -ой здесь указывает на принадлежность, как в фамилиях Толстой, Донской, но в отличие от них, основа не географическая, а качественная.

В русской ономастике фамилии с окончанием -ой (а не -ый или -ов) часто сохраняли старую, церковнославянскую или диалектную огласовку. Новой могло закрепиться в формах типа «Иван Новой» — то есть Иван, который является «новым» в каком-то смысле: новый поселенец, новый работник, или даже человек, получивший прозвище за обновление чего-либо. В говорах русского Севера и Сибири, где «оканье» было нормой, фамилия Новой могла возникнуть самостоятельно, минуя стандартную модель на -ов.

Вторая версия, менее вероятная, но имеющая право на существование — связь с топонимом. В России есть несколько деревень с названием Новая, но фамилия от названия села обычно давала бы форму Новицкий, Новский или просто Новиков. Новой — слишком прямая, «домашняя» форма для топонимической фамилии, она скорее указывает на конкретного человека, а не на выходца из местности.

Стоит учесть, что фамилия Новой — одна из тех, что могла «потерять» конечный согласный при записи. В XIX веке крестьянам часто писали фамилии на слух: если писарь слышал «Новой», он мог записать именно так, а не «Новов» или «Новый». Поэтому в одной семье могли сосуществовать варианты Новой, Новый и даже Новай. Встречается фамилия в основном на юге России и в Поволжье, где аканье и иканье не давали путаницы с окончанием -ый.

Итог: предки носителя фамилии Новой, скорее всего, получили прозвище за то, что были новичками в общине, поселились на новом месте или просто отличались от старожилов. Фамилия — живое свидетельство того, как русский язык в разных регионах по-своему «обкатывал» простые слова, превращая их в родовые имена.