Фамилию Кострицин чаще всего выводят из прозвища Кострица. В русских говорах так называли жёсткую часть стебля льна или конопли, которая остаётся после трепания и отделения волокна (костры, кострика). Прозвище могли дать человеку, занимавшемуся обработкой льна — трепальщику, чесальщику, либо мастеру, работавшему с кострой (например, набивавшему ею матрасы). В переносном смысле «кострицей» могли назвать сухопарого, костистого или неуживчивого человека — по аналогии с жёстким, колким отходом.

Суффикс -ин указывает на типичную русскую модель образования фамилий от прозвищ или профессий, оканчивающихся на -а/-я. Кострица + -ин даёт буквальное значение «сын или потомок Кострицы». Это одна из самых распространённых форм в северной и центральной России, где лён был основной культурой. Географически фамилия встречается в Вологодской, Костромской, Ярославской областях — в зоне традиционного льноводства.

Менее вероятная, но возможная версия связывает основу с глаголом «кострить» — делать замечания, бранить, корить. В этом случае прозвище Кострица могло закрепиться за ворчливым или язвительным человеком. Однако эта гипотеза слабее: производные от «кострить» в русской антропонимии встречаются реже, чем названия, связанные с ремёслами.

Стоит отличать Кострицина от фамилии Костриков — та образована от прозвища Кострик (тоже от «костра», но с другим суффиксом). Фамилия Кострицин сохранила более архаичную форму с -ица, что говорит о её возможном возникновении в XV–XVI веках, когда такие прозвища были особенно распространены. В документах XVII века встречаются крестьяне и посадские люди с прозвищем Кострица, но конкретные записи о Кострициных требуют уточнения по региональным архивам.