Фамилия Никольсуий — редкий вариант написания, за которым почти наверняка скрывается более распространённая фамилия Никольский. Ошибка в суффиксе (-суий вместо -ский) могла возникнуть при переписи населения, в документах или при миграции в регионы, где русское произношение искажалось под влиянием местных говоров. Если вы встретили именно такое написание, скорее всего, это искажённая форма, а не самостоятельная фамилия.

Основа фамилии — имя Николай. В русской ономастике фамилии на -ский традиционно образовывались от географических названий или от имён святых. Никольский — типичный семинарский или церковный вариант: так называли учеников духовных училищ, которые получали фамилию по храму или иконе. Никольских много там, где стояли Никольские церкви — посвящённые Николаю Чудотворцу. Человек с такой фамилией мог быть либо выходцем из села Никольское (таких сёл в России сотни), либо сыном священника Никольской церкви, либо семинаристом, которому дали фамилию при поступлении.

Суффикс -ский указывает на принадлежность к высшим слоям духовенства или дворянства, в отличие от крестьянских фамилий на -ов/-ев. Однако в XIX веке Никольские встречались и среди мещан, и среди крестьян — фамилия стала массовой из-за популярности имени Николай. Ваш вариант Никольсуий, скорее всего, принадлежит потомку человека, чью фамилию записали на слух, не зная точного написания. Такое бывало в отдалённых губерниях или при переезде в города, где грамотность была низкой.

Если сравнивать с однокоренными фамилиями — Никольский, Никольцев, Николаев — то Никольсуий стоит особняком. Он не встречается в классических словарях русских фамилий (Унбегаун, Никонов), что подтверждает его окказиональный характер. Возможно, это результат описки в паспортном столе советского времени, когда букву «к» прочитали как «с», а «с» в суффиксе удвоили. Искать корни такой фамилии стоит в архивах той местности, где она зафиксирована: скорее всего, это южные или западные регионы России, где смешивались русские, украинские и белорусские говоры.