Фамилия Костыревы — одна из тех, где за привычным окончанием на -ев скрывается неочевидная основа. Вопреки первому впечатлению, она не связана с костылями для ходьбы. В основе лежит прозвище Костырь, которое в старину имело совсем другое значение: так называли азартного игрока в кости, а позже — любого заядлого картёжника. Слово «костырь» (или «костерь») в диалектах означало и «игрок», и «плут», и «барышник», а само название игры — «костёр» или «костырь» — восходит к корню «кост-» (кость). Игральные «бабки» и кости были главным инструментом, отсюда и прозвище.

Модель образования типична для русских фамилий: прозвище Костырь + патронимический суффикс -ев (вместо -ов после мягкого [р']). Суффикс указывает на принадлежность: «Костырев» — буквально «сын Костыря». Фамилия фиксируется в разных регионах, но особенно характерна для южнорусских и центральных областей, где слово «костырь» бытовало в говорах. В документах XVI–XVII веков встречаются «Костыри» — люди, промышлявшие игрой или торговлей; некоторые из них оседали на посадах и записывались в тягловые списки.

Стоит различать фамилии Костырев и Костерев. Второй вариант чаще связывают с растением «костёр» или с ремеслом (костерь — жёсткая часть льна), хотя в ряде говоров оба слова могли смешиваться. Поскольку прозвищная основа Костырь хорошо прослеживается в актовом материале, версия с картёжником и игроком остаётся основной. Другие гипотезы — от диалектного «костырь» (задира, сварливый человек) — менее распространены, но не исключены.

О точном времени возникновения фамилии говорить сложно: процесс закрепления прозвищ в фамилии растянулся на несколько столетий. Однако ясно, что Костыревы — не «кабинетная» фамилия, а живое прозвание, данное по реальной черте или занятию предка. В сводах боярских и дворянских родов она не встречается — это фамилия служилых, посадских и крестьянских слоёв, что подтверждается переписными книгами XVII–XVIII веков.