Фамилия Костырский — редкий случай, когда географическая привязка почти наверняка перевешивает прозвищную. Её основа — топоним, а не личное имя или ремесло.

Словообразовательная модель прозрачна: суффикс -ск- указывает на связь с местом. Костырский — это «тот, кто родом из Костыр» или «из Костырска». Таких названий в исторических документах Восточной Европы несколько. Наиболее вероятный кандидат — село Костыры (или Костырка) на территории современной Украины или Беларуси. В польской и западнорусской ономастике фамилии на -ский традиционно носили шляхта и дворяне, но к XVIII–XIX векам этот суффикс стал массовым и у крестьян, особенно после того, как они получили фамилии по названию деревни, где жили.

Менее убедительная, но возможная версия — происхождение от прозвища Костырь. В древнерусском языке «костырь» означало сварливого, задиристого человека, а также игрока в кости (от «костёр» — игрок в бабки). Однако суффикс -ский для личного прозвища нехарактерен: он образует притяжательные прилагательные от имён (Петровский — от Пётр), а не от абстрактных качеств. Поэтому версия с прозвищем слабее: фамилия Костырёв отсюда была бы логичнее, а Костырский — почти наверняка топонимическая.

В словаре Б. Унбегауна «Русские фамилии» модель на -ский с корнем «костыр» не упоминается как типичная, что подтверждает её редкость. Носители фамилии встречаются разрозненно — от Смоленщины до Сибири, но без ярко выраженного гнезда. Это говорит о том, что основание фамилии было локальным: несколько семей из одного села Костыры разъехались по стране, не образовав большого клана.

Таким образом, если ваш предок — Костырский, он, скорее всего, происходил из конкретного поселения с корнем «костыр», а не от сварливого человека. Сама фамилия — типичный пример того, как географическое название становится семейным знаком, хотя само село могло давно исчезнуть с карт.