Фамилия Кастыря — редкий пример, когда основа слова почти не изменилась за столетия, а её значение напрямую связано с характером или занятием человека. В отличие от большинства русских фамилий на -ов/-ев, эта образована при помощи суффикса -я, который в восточнославянской традиции часто закреплял за человеком прозвище, данное «по делу» или по поведению.

Корень здесь — «кастор» или «кастыр». В южнорусских и украинских говорах «кастыря» — это тот, кто кастит, то есть портит, пакостит, делает назло. Слово «касть» (порча, вред) имеет древнюю общеславянскую основу, родственную, например, польскому «kaścić» (портить). Прозвище Кастыря могли дать человеку сварливому, вредному, склонному к мелким пакостям — но не обязательно злому, скорее дотошному и придирчивому.

Вероятна и вторая, более конкретная версия: «кастыря» называли того, кто занимался выделкой касторового масла или торговал им. В XIX веке касторка была ходовым аптекарским и техническим средством, а её производство — грязным и вонючим ремеслом. Прозвище закрепилось за человеком, который «кастырит», то есть возится с кастором. Эта версия менее популярна, но лингвистически она не слабее: суффикс -я в ремесленных прозвищах встречается (ср. «гвоздаря» — кузнец по гвоздям).

Географически фамилия тяготеет к югу России и востоку Украины. В переписях XIX века Кастыри встречаются в Курской, Воронежской, Харьковской губерниях — там, где диалектное слово «касть» было в ходу, а касторовое масло гнали из местной клещевины. Сословно носители почти всегда крестьяне или мещане: дворянских родов с такой фамилией не зафиксировано.

У фамилии есть редкая особенность: она не склоняется по падежам в мужском роде? Нет, склоняется как обычное существительное общего рода: «Иван Кастыря», «у Петра Кастыри». Это выбивается из стандартной модели русских фамилий, которые чаще всего застывают в форме родительного падежа. Кастыря остался живым прозвищем, а не формальным ярлыком — и это, пожалуй, главное, что о нём стоит помнить.