Фамилия Коштыличева — редкий случай, когда в основе лежит не очевидное слово, а его диалектный или звуковой вариант. Чтобы понять происхождение, нужно отбросить суффикс -ев- (указывающий на принадлежность: «чей?» — Коштыличев) и посмотреть на корень «коштыл-». Это, скорее всего, искажённая или местная форма слова «костыль». В русских говорах, особенно северных и сибирских, «коштыль» или «кохтыль» могли называть не только опору для ходьбы, но и неуклюжего, высокого человека, а также кол, дубину или деталь в ткацком станке.

Суффикс -ич- в середине фамилии (Коштыл-ич-ев) встречается нечасто. Обычно он образовывал отчества (Иванович) или фамилии с польско-белорусским влиянием. В случае с Коштыличевым эта цепочка сложилась так: сначала появилось прозвище Коштыль (или Коштыла), от него — отчество Коштылич («сын Коштыля»), а затем уже фамилия Коштыличев. Такая модель характерна для южнорусских и западнорусских земель, где отчества на -ич иногда переходили в фамилии напрямую.

Менее вероятная версия связывает фамилию с тюркским корнем, например, «кош» (шалаш, стоянка) или «кушты» (птица), но звуковое сходство здесь слабое, а русская словообразовательная модель — очевидная. Учитывая, что носители фамилии встречаются в центральных областях России, версия с прозвищем от «костыля» выглядит основной.

Предок Коштыличевых, скорее всего, получил прозвище за внешность (высокий, худой) или за профессию — например, он мог быть мастером, делавшим костыли, либо ходить с ними из-за травмы. Фамилия недворянская, крестьянская или мещанская, что подтверждается её редкой, «говорящей» основой.