Фамилия Невкая — редкая и нестандартная для русского ономастикона. В ней сразу бросается в глаза окончание «-ая», которое типично для полных прилагательных в женском роде. Это наводит на мысль, что перед нами не типичная патронимическая фамилия (сын такого-то), а застывшая форма прилагательного, отвечающего на вопрос «какая?».

Скорее всего, Невкая — это вариант фамилии Невский, но в женском, или, что точнее, в фамильном прозвищном оформлении. В русской традиции фамилии на «-ский» могли даваться по месту жительства (например, от названия реки или села). Невский — очевидная отсылка к реке Неве или к Александру Невскому. Но форма «Невкая» могла возникнуть двумя путями. Первый: в документах XIX века женщину могли записать как «Невкая» (крестьянка Невкая), а затем эта форма закрепилась за потомками как фамилия. Второй: в говорах, где «-ский» переходило в «-ской», а затем, при адаптации, могло превратиться в «-кая» при склонении или переосмыслении. Например, «Невской» в родительном падеже — «Невского», но в устной речи «Невская» звучало как «Невкая» (с редукцией). Письменная фиксация могла это закрепить.

Другой, менее вероятный, но возможный корень — от прозвища «Невка». В славянских языках «невка» может быть диалектным словом, обозначающим что-то невесомое, легкое, или же искажением от «невестка» (сноха). Однако в этом случае логичнее была бы фамилия Невкин, а не Невкая. Форма на «-ая» указывает на прилагательное, а не на существительное.

Географически фамилия Невкая встречается крайне редко, в основном на северо-западе России и в Сибири (куда переселенцы увозили свои прозвища). Если ваши предки носили эту фамилию, они, вероятно, происходили из среды, где фамилии были недавними и нестандартными — крестьяне или мещане, чью фамилию записал писарь на слух, не придав значения грамматической норме. Это не дворянская фамилия, а народное, бытовое образование, которое обошлось без суффиксов «-ов» и «-ин», сохранив живую форму прилагательного.