Фамилия Кострыгин образована по простой и распространённой модели: к основе «кострыг-» добавили притяжательный суффикс -ин, указывающий на принадлежность: «чей?» — Кострыгин, то есть сын или потомок человека по прозвищу Кострыга. Это типичная русская фамилия, где суффикс -ин, а не -ов, намекает на то, что основа оканчивалась на -а или согласный, что и произошло.

Корень здесь — «костерь» (или «костра»). В русских говорах костерь — это жёсткая, одревесневшая часть стебля льна или конопли, которая остаётся после трепания и чесания. Отходы, мусор, который летит во все стороны. Человек по прозвищу Кострыга мог получить его за несколько причин. Самая прямая: он был занят обработкой льна — трепал, мял лён, и на нём постоянно висела костра. В переносном смысле Кострыгой называли человека сухого, костлявого, «колючего» — по ассоциации с торчащими острыми частицами костры. В. И. Даль в своём словаре приводит слово «кострыга» именно в значении задиры, сварливого человека, а также как название одного из сортов яблок.

Встречается и версия, что Кострыга — это вариант прозвища Костырь, то есть игрок в кости или бабки, но она менее убедительна: фонетический переход «ыр» в «ыг» нехарактерен для русских говоров, а вот «костерь» и «кострыга» — однокоренные слова.

Фамилия не относится к числу аристократических. Её носители — скорее всего, крестьяне из северных и центральных губерний России, где выращивали лён. В писцовых книгах XVI–XVII веков можно встретить крестьян с прозвищем Кострыга, например, в Новгородской и Вологодской землях. Позже, при переписях, за ними закрепилась фамилия Кострыгины.

В отличие от фамилий вроде Костров или Костерев, где основа — «костёр» (огонь), Кострыгин жёстко привязана к крестьянскому ремеслу и быту, а не к стихии. Это редкий случай, когда фамилия сохранила в себе не имя, не внешность, а производственный отход.