Фамилия Кострицкий (обратите внимание: в запросе указано «Кострицкьий», но это, скорее всего, опечатка — мягкий знак перед «ий» в русских фамилиях не встречается; правильная форма — Кострицкий) образована по типичной для польской и западнорусской шляхты модели: основа + суффикс -цк- (в варианте -ицк-) и окончание -ий. Такие фамилии указывали на владельческую принадлежность к месту, то есть на то, что предок был «из Костриц» или владел имением с таким названием.

Корень костр- (или костри-) прямо отсылает к слову «костёр». В старом русском и польском языках «костром» называли не только огонь, но и кучу хвороста, сухих веток, а также — в переносном смысле — сорную траву, бурьян. Отсюда и топонимы: в Польше есть деревня Kostrzyca (Кострица, буквально — «место, где жгли костры» или «поросшее костром»), а в Беларуси и на Украине — Кострица, Костричи, Кострицк. Фамилия Кострицкий, скорее всего, закрепилась за выходцем именно из такого населённого пункта.

Менее вероятная, но возможная версия — происхождение от прозвища Кострика (или Кострица). В говорах «кострикой» называли жёсткую часть стебля льна или конопли, остающуюся после трепания. Так могли прозвать человека с жёсткими, торчащими волосами или того, кто занимался обработкой льна — трепал, мял, чесал. Но в этом случае фамилия скорее приняла бы форму Кострикин или Кострицын, а не Кострицкий. Поэтому версия с географическим названием выглядит убедительнее.

Суффикс -цк- — один из самых характерных для польской и южнорусской фамильной традиции. В Речи Посполитой он указывал на дворянское происхождение: шляхтич писался «Кострицкий», а крестьянин из той же деревни — «Костриц» или «Костриченко». В XIX веке, после разделов Польши, многие носители такой фамилии оказались в черте оседлости на территории современной Беларуси, Украины и Литвы. Встречается она и сейчас, но нечасто — это редкая фамилия, что подтверждает её локальное, «гнездовое» происхождение.

Что касается написания с мягким знаком — «Кострицкьий» — это явная ошибка, возникшая, вероятно, из-за путаницы с украинскими или польскими формами (например, польское Kostrzycki произносится с твёрдым «рж», но пишется без «ь»). В русском языке мягкий знак перед суффиксом -ск- не ставится. Если вы ищете именно «Кострицкьий», проверьте документы: возможно, фамилия была искажена при записи или переписи, и её истинная форма — Кострицкий.