Фамилия Костырскии — одна из тех, где написание сразу бросается в глаза. Двойное «и» на конце (Костырскии) почти наверняка указывает на то, что перед нами не современная литературная форма, а архаичная или диалектная. В норме русские фамилии на -ский в именительном падеже единственного числа мужского рода оканчиваются на -ий (как Достоевский, Трубецкой). Окончание -ии встречается в старых документах, в южнорусских говорах или как результат неграмотного написания, которое потом закрепилось. Поэтому первая и главная особенность: носитель фамилии, скорее всего, происходит из среды, где фамилия записывалась на слух, без строгой орфографической правки. В большинстве случаев эту фамилию следует рассматривать как вариант написания фамилии Костырский.

Основа фамилии — «костырь». В русских говорах у этого слова несколько значений, и все они могли дать прозвище. Самое распространённое — «костырь» как игрок в кости или картёжник (от слова «костыркать» — играть в азартные игры). В словаре Даля «костырь» — это плут, шулер, человек, промышляющий игрой. Прозвище было нелестным, но в XV–XVII веках такие прозвища давали без злого умысла, просто по заметной черте поведения. Вторая версия — от «костыль» (палка, посох), но переход «ль» в «рь» в этом слове нехарактерен для русского языка, хотя в украинском и белорусском такое возможно. Третья, менее вероятная, но существующая в ономастике версия — от названия растения костер (сорная трава, овсюг), которое в некоторых говорах называли «костырь».

Словообразовательная модель проста: суффикс -ск- указывает на принадлежность или происхождение (чьих будешь? откуда?). Фамилия Костырский (и её вариант Костырскии) — типичная «географическая» или «прозвищная» фамилия, образованная по той же схеме, что и Бобровский, Кузнецовский, но не от названия села, а от личного прозвища Костырь. То есть: «сын Костыря» → Костырский. Это так называемые «польские» фамилии на -ский, которые в XVII–XVIII веках стали массово появляться у русских дворян и духовенства, а позже — у крестьян после отмены крепостного права. Однако если фамилия писалась через «ии», это скорее указывает на позднюю фиксацию в крестьянской среде, где падежные окончания путали.

Социальный контекст: носители фамилии Костырскии (Костырские) вряд ли принадлежали к высшей аристократии — слишком яркое и неблагородное прозвище. Скорее всего, это однодворцы, казаки или крестьяне юга России и Украины. Географически фамилия тяготеет к Курской, Воронежской, Харьковской губерниям и к Кубани, где двойное «и» в окончании встречается в метрических книгах до начала XX века.

Если коротко: фамилия Костырскии — это старый, «неисправленный» вариант фамилии Костырский. Предок носителя, скорее всего, получил прозвище Костырь за любовь к азартным играм или за плутоватый нрав. Ничего героического в этимологии нет, зато есть живая черта характера, которую заметили окружающие несколько веков назад.