Фамилия Остроиский звучит необычно для русского уха, и дело не только в редкости. В ней нарушена привычная модель: типичный суффикс -ск- в русских фамилиях обычно указывает на связь с географическим названием (Остров, Островский), но здесь мы видим «оиский» вместо ожидаемого «овский» или «инский». Это ключ к разгадке.

Скорее всего, перед нами не русская, а польская или украинская фамилия, записанная в русской транскрипции. В польском языке существует фамилия Ostroiski, которая происходит от названия местности Острув (Ostrów — остров) или Остров. При переносе в русскую письменность польское сочетание -oi- могло быть передано буквально, как «Остроиский», хотя в оригинале оно читается как «Остро́йский». Таким образом, фамилия — вариант более известной Островской или Островского, но с сохранением польского фонетического облика.

Другая, менее вероятная версия отталкивается от прямого значения корня «острой» — то есть острый, заострённый. В этом случае фамилию могли образовать от прозвища Острой (человек с острым языком, острый на глаз) с помощью того же суффиска -ск-, что характерно для прозвищных фамилий шляхты. Но тогда ожидалась бы форма Островский, а не Остроиский, поэтому версия с географическим названием и польским влиянием выглядит убедительнее.

Географически фамилия Остроиский редка и встречается в основном на западе России, в областях, граничащих с Беларусью и Украиной (Смоленская, Брянская, Псковская), что подтверждает её западнорусское или польско-литовское происхождение. Предки носителя этой фамилии, вероятно, были мещанами или мелкой шляхтой, получившими фамилию по названию своего имения или хутора, расположенного на острове среди болот или рек.

С точки зрения словообразования, фамилия стоит особняком: суффикс -иск- (вместо -овск- или -инск-) в русской ономастике нетипичен, и его появление — прямое свидетельство межъязыкового контакта. Именно эта орфографическая особенность делает фамилию Остроиский ценной для историка: она сохранила следы того, как польская фамилия адаптировалась в русской среде без полной русификации.