Фамилия Набокоеа — редкий случай, когда ошибка в написании почти наверняка возникла на стадии записи в документ. На слух фамилия звучит как Набокова, и именно так её и следовало бы писать в подавляющем большинстве случаев. Сочетание «оеа» в конце — это, скорее всего, искажение, возникшее из-за неразборчивого почерка или неверной транслитерации при получении паспорта или метрики. Поэтому, прежде всего, стоит проверить, не была ли фамилия предков Набоковыми.

Если же написание «Набокоеа» закрепилось официально и не является опиской, то перед нами аномальная форма, которая не подчиняется стандартным словообразовательным моделям русских фамилий. Обычные суффиксы -ов, -ев, -ин здесь не читаются. Окончание «-еа» чужеродно для русской ономастики и наводит на мысль об искусственном, возможно, канцелярском происхождении: кто-то когда-то просто записал фамилию так, как услышал, не зная правил.

Вероятная основа — прозвище или мирское имя Набок. В говорах «набок» могло означать «криво», «на сторону» — так могли называть человека с характерной походкой, сутулого или того, кто носил шапку набекрень. В старину это было бы прозвище, от которого по правилам образовалась бы фамилия Набоков. Ваш вариант — Набокоеа — выглядит как попытка передать это прозвище с помощью окончания, свойственного, например, грузинским фамилиям (-ая, -еа), но без системной основы.

С точки зрения генеалогии, носителям фамилии Набокоеа стоит быть готовыми к тому, что в дореволюционных документах их предков, скорее всего, записывали как Набоковых. Это не делает фамилию «неправильной», но объясняет её уникальность: она — свидетельство конкретной бюрократической ошибки, которая со временем стала родовым именем.