Фамилия Кострыця звучит необычно для русского уха, но её происхождение прозрачно. Она образована от слова «костер» (или его диалектного варианта «костерь») — так в южных и западных регионах называли сорную траву или жесткую часть стебля конопли и льна. В некоторых говорах «кострица» и «кострыця» означали отходы после трепания льна — костру. Человек по прозвищу Кострица мог быть льноводом, трепальщиком, а мог и просто получить эту кличку за сухой, жесткий характер.

Суффикс «-ыц-/-иц-» в украинской и белорусской традиции часто указывает на принадлежность или свойство: Кострица — человек, имеющий отношение к костре. Фамилия Кострыця, скорее всего, закрепилась именно в украинской или белорусской среде. В русском языке более привычной стала бы форма Кострицын (притяжательный суффикс -ин) или Кострицкий (топонимический суффикс -ский). А вот Кострыця — это, по сути, застывшее прозвище в именительном падеже, что для восточнославянских фамилий редкость.

Интересно, что в польском языке есть слово kostrzyca с похожим значением — «костра». Это наводит на мысль, что фамилия могла возникнуть на пограничье украинского, белорусского и польского влияния, в районах Полесья или Подляшья. Носители фамилии Кострыця, вероятно, были крестьянами или ремесленниками, связанными с обработкой льна и конопли.

Встречаются и другие варианты написания — Костриця, Кострыца. Это нормально для фамилий, которые долго бытовали в устной форме и записывались «на слух» в документах разных канцелярий. Сейчас фамилия редкая, но её корень однозначно указывает на трудовое прозвище предка, а не на происхождение от имени или географического названия.