Фамилия Островянская — женская форма фамилии Островянский, и её разумнее всего рассматривать в паре. Словообразовательная модель здесь прозрачна: суффикс -янск- (вариант более частого -анск-) указывает на происхождение от географического названия, а окончание -ая — на принадлежность к роду. Такие фамилии в основном носили дворяне, духовенство и выходцы из мещан, получившие фамилию по месту рождения или владения.

Корень, очевидно, «остров». Но не спешите думать, что предок жил на острове посреди реки или моря. В русской топонимике «Остров» — одно из самых распространённых названий сел, деревень и даже городов (вспомните Остров в Псковской области). Соответственно, Островянский — это человек из населенного пункта с названием Остров, Островное, Островцы. Суффикс -ян- в данном случае не уменьшительный, а указывает на связь с местом: «тот, кто с Острова».

Более редкий, но возможный вариант — происхождение от прозвища Островянин, то есть «островитянин». В северных говорах так могли называть жителя отдаленной, изолированной местности, живущего «как на острове» — среди лесов или болот. В этом случае фамилия образована напрямую от прозвища, минуя топоним, но суть остается той же: предка выделили по месту жительства.

Если искать параллели, то фамилия Островянская стоит в одном ряду с куда более известными Островскими, Островцевыми, Островскими-Островяновыми. Разница в суффиксе: -ск- типичен для польской и западнорусской шляхты, а -янск- — вариант, встречающийся в восточнославянской среде, особенно в белорусских и украинских землях. Поэтому носительницы фамилии Островянская с высокой вероятностью имеют корни в западных областях России, Беларуси или Украины, где топонимы на «Остров» особенно часты. Фамилия не массовая, но и не уникальная — она четко говорит о географическом корне, который можно попытаться найти на старых картах.