Фамилия Новикий — редкий случай, когда написание расходится с привычной моделью. Если вы встретили её в документах, скорее всего, перед вами искажённая форма более распространённой фамилии Новицкий. В русской традиции фамилии на -ский (польского или западнорусского происхождения) часто теряли букву «ц» в устной речи или при записи «на слух», особенно в XVIII–XIX веках, когда крестьянам и мещанам фамилии присваивали чиновники. Так Новицкий мог превратиться в Новикого.

Если же «Новикий» — не ошибка писаря, а исходная форма, то её корень — нов- (от «новый»), а суффикс -ик- указывает на лицо. В таком случае фамилия образована от прозвища Новик. Так на Руси называли новичка в общине, нового поселенца, молодого солдата или недавно принятого на службу человека. Суффикс -ий здесь работает как притяжательный (чей? — Новикого), то есть «сын Новика». Это нетипичный для русского языка вариант: обычно мы видим окончание -ов (Новиков) или -ин (Новиков). Фамилия Новикий могла сохраниться в говорах, где притяжательные прилагательные образовывали по-своему, или под влиянием украинского языка (ср. украинские фамилии на -ий: Шевченко — Шевченкий? нет, но есть Новицький, что при русификации дало бы Новицкий, а потом — Новикий).

Скорее всего, Новикий — это не самостоятельная фамилия с особым значением, а вариант написания Новицкого, который закрепился в одной-двух семьях из-за ошибки в метрических книгах или при переписи. Если ваши предки носили именно Новиких, ищите их в тех же документах, что и Новицких: это шляхетские фамилии (польские или западнорусские), часто встречались среди православного и униатского духовенства, а также в среде мещан и казаков на территории современной Украины, Беларуси и юга России. Сравните с однокоренными: Новиков (самый частый вариант), Новицкий (польский), Новак (чешский и украинский), Новиченко (украинский). Новикий — самый редкий, возможно, даже случайный.