Фамилия Косторев — редкий случай, когда основа прозвища почти наверняка связана не с именем или профессией, а с действием. В её центре — древнерусское слово «костырь», которое означало «игрок в кости» или, шире, «азартный человек». В словаре Владимира Даля «костырничать» — играть в кости или бабки, а сам «костырь» — заядлый игрок. Фамилия образована по стандартной модели: прозвище Костырь + притяжательный суффикс -ев (чей? — Костырев). Со временем «ы» перешло в «о» под влиянием акающего произношения (в южных и центральных говорах «кастырь» звучало как «костырь»), и написание закрепилось через «о».

Суффикс -ев, а не -ов, указывает, что основа оканчивалась на мягкий согласный или шипящий (Костырь → Костырев). Это типично для прозвищ, а не для крестильных имён. Имя Костырь не встречается в святцах, так что версия о происхождении от канонического имени отпадает. Есть ещё одна, менее вероятная гипотеза: связь с «костёр» — но для этого пришлось бы допустить, что прозвище дали человеку, который разводил огонь или жил у кострища. Однако фонетика против: в слове «костёр» ударение на последнем слоге, а в основе фамилии — на первом (Ко́стырь), и суффикс -ев здесь необъясним.

Носители фамилии Косторев исторически концентрировались в центральных и южнорусских регионах — там, где были распространены игры в бабки и кости как народное развлечение. В переписных книгах XVII века встречаются отдельные записи: например, в Воронежском уезде упоминается крестьянин Костырь, а позже его потомки фигурируют уже как Костыревы. Сословно фамилия крестьянская или посадская — дворянских родов с такой фамилией не зафиксировано. В XIX веке форма через «о» стала преобладать, и современный вид фамилии — Косторев — окончательно вытеснил старую.

По сути, фамилия Косторев — это прозвище, застывшее в паспорте. Предок носителя был известен в округе как заядлый игрок: не обязательно картёжник, скорее участник традиционных русских игр в бабки или кости, которые были азартным состязанием на ловкость и удачу. В отличие от многих фамилий, где значение стёрлось, эта сохранила прямую связь с занятием — не ремеслом, а времяпрепровождением, которое в старину было настолько заметным, что стало личным именем.