Фамилия Кострыба звучит необычно и сразу привлекает внимание своей «нестандартностью» — она явно не из числа тех, что образованы от крестильных имён (вроде Иванов или Петров). В её основе, скорее всего, лежит прозвище. Разбираем по частям: корень «костр-» и суффикс «-ыба».

Корень «костр-» в русских говорах многозначен. Самое прямое значение — «кость», «костлявый», «худой» (от древнерусского «кость»). В диалектах северных и центральных областей «кострыба» (или «костряба») — это задиристый, сварливый человек, заноза, с которым трудно ужиться. Слово могло означать и того, кто «кострыжит» — ссорится, бранится, делает всё наперекор. Вторая версия отсылает к «кострецу» — пояснице, крестцу. Прозвище Кострыба могли дать человеку с больной спиной или с особой, заметной походкой.

Суффикс «-ыба» в русских фамилиях встречается редко и почти всегда указывает на прозвищное происхождение. По такой же модели образованы фамилии Гулыба (от «гулять» — гуляка), Жулыба (от «жулить» — плут), Телепыба (от «телепаться» — болтаться без дела). Этот суффикс придаёт основе экспрессивный, часто уничижительный или шутливый оттенок. Получается, что Кострыба — это «костлявый задира» или «худой скандалист».

Фамилия могла возникнуть и от украинского или белорусского «костриба» — так в некоторых регионах называли растение костёр (Bromus) или сорную траву с жёсткими стеблями. В этом случае прозвище прилеплялось к человеку сухому, жилистому, упрямому — как сорняк, который не выдернешь.

Географически фамилия Кострыба чаще всего встречается на западе России, в Смоленской, Брянской областях, а также в Беларуси и на Украине. Это подтверждает её связь с западнорусскими и украинскими говорами, где слово «кострыба» бытовало как живое прозвище. В документах XVIII–XIX веков такие прозвища нередко становились фамилиями без изменений, минуя стандартные суффиксы -ов/-ев, — так и закрепилась форма Кострыба.

Таким образом, предок-носитель этой фамилии был человеком заметным: либо костлявым, либо скандальным, либо просто очень упрямым. Фамилия сохранила в себе живое диалектное слово, которое сегодня почти вышло из обихода, но продолжает звучать в фамильном имени.