Фамилия Островкая — не самый частый вариант, который встречается в русском ономастиконе. Её написание с окончанием -ая сразу указывает на то, что перед нами форма женского рода. В русской традиции фамилии на -ская/-цкая и -ской/-цкой — это типичные «дворянские» или «географические» модели, образованные от названий мест. Но здесь есть нюанс: основа «Островк-» явно восходит к слову «островок» — уменьшительной форме от «остров». То есть исходное прозвище или топоним звучало как Островок, а фамилия от него — Островков или Островкий. Вариант Островкая — это, скорее всего, результат адаптации под женский род или особенность записи в документах, где мужская форма могла быть Островкий.

Если копнуть глубже, то модель образования с суффиксом -к- не самая распространённая. Обычно фамилии от «остров» давали через суффикс -ов (Островов) или -ский (Островский). Наличие «-к-» говорит о том, что в основе лежало не просто географическое название, а конкретное прозвище по месту жительства: человека могли прозвать Островком за то, что его дом стоял на небольшом возвышении среди болот, на островке среди реки или в лесу. В некоторых говорах «островком» называли и отдельный участок пашни среди леса. Так что предок носительницы этой фамилии мог быть крестьянином, жившим на таком «островке», или же получил прозвище по названию деревни Островки — такие названия встречаются, например, в Беларуси и на западе России, где много мелких хуторов.

С точки зрения сословной принадлежности, фамилия Островкая не обязательно указывает на дворянство. В XIX веке окончание -ская/-цкая активно присваивалось и крестьянам, и мещанам при переписях, особенно если священник или писарь «облагораживал» фамилию по звучанию. Поэтому искать корни стоит не в генеалогических таблицах, а в картах: есть ли в вашем регионе деревни или урочища с названием Островки, Островок. Если да, то фамилия почти наверняка топонимическая.

Редкость написания «Островкая» (а не «Островская») может быть следствием диалектного произношения или ошибки в документах. В любом случае, это не меняет сути: фамилия связана с малым географическим объектом — островком, который когда-то определил место жительства вашего предка.