Фамилия Коштылянов — редкий и яркий случай, когда прозвище, лёгшее в основу, почти наверняка связано с походкой. Разбирать её стоит с суффикса: -янов — это фонетический вариант более частого -анов или -ев, характерный для южнорусских и украинских говоров. Основа «Коштылян» восходит к слову «коштыль» — в диалектах так называли человека, который ходит с трудом, припадая на ногу, или же того, кто пользуется костылём (палкой для опоры). Сравните с однокоренными фамилиями Коштылев, Костылев, Коштыль — все они из одного гнезда, где корень «кост-» (кость) через значение «твёрдый, жёсткий» перешёл в «костыль».

Вероятнее всего, первый носитель фамилии получил прозвище Коштылян за хромоту или характерную манеру ходить вразвалку. В русских говорах «коштылять» означало «ковылять, хромать». Такие прозвища давали не в насмешку, а как отличительный признак — по тому же принципу, что и фамилии Хромов, Косолапов или Шаганов. Суффикс -ян (с ударением на последний слог) типичен для юга России и части Украины, особенно для территорий бывшего Дикого Поля, куда переселялись крестьяне из центральных областей.

Менее вероятная, но допустимая версия — происхождение от личного имени или прозвища Коштыль, которое могло возникнуть от слова «коштыль» в значении «мешок, кошель» (диалектное «коштыль» — кожаный мешок для денег). В этом случае фамилия указывала бы на занятие: казначей, сборщик податей или просто запасливый человек. Однако эта гипотеза слабее, так как связь с походкой подтверждается целым кустом однокоренных фамилий, а связь с кошелем — лишь единичными говорами.

Географически фамилия Коштылянов встречается крайне редко, преимущественно в Ростовской области, Краснодарском крае и на востоке Украины. Это объяснимо: южнорусский суффикс -янов (вместо -анов) обычно «выдаёт» регион формирования. Сословного барьера у фамилии не было — её мог получить и крестьянин, и казак, и мещанин, если у него была заметная особенность походки. В дореволюционных метрических книгах эта фамилия почти не фиксируется, что говорит о её позднем закреплении — скорее всего, в XVIII–XIX веках, когда массово оформлялись фамилии у бывших государственных крестьян южных губерний.