Фамилия Косталанов — редкий случай, когда прозвище взято не из русского, а из тюркского или кавказского языкового слоя, причём с необычным славянским суффиксом. Основа «Косталан» восходит к тюркскому «костал» (или «косталан») — «гость» или «пришелец», иногда с оттенком «чужак». В некоторых диалектах это слово означало человека, который пришёл издалека и поселился в новой местности. Суффикс «-ов» — типично русский патронимический формант, который «ославянил» исходное прозвище. Получается, что Косталанов — буквально «сын пришельца» или «потомок гостя».

Географически фамилия встречается в регионах, где исторически смешивались славянское и тюркское население: на Северном Кавказе, в Поволжье, а также среди казачества. В казачьих общинах прозвища часто фиксировали происхождение человека: «Косталан» мог быть беглым крестьянином, переселенцем из другого войска или даже выходцем из горских народов, принявшим православие. Интересно, что фамилия не получила распространения в центральной России — это указывает на её локальный характер и связь с конкретными миграционными потоками XVII–XIX веков.

Вторая, менее вероятная версия связывает основу с греческим «коста» (кость, скелет) через прозвище «Косталан» — «костлявый», «худой». Но такая трактовка слаба: греческие корни в русских фамилиях обычно проходили через церковные имена (например, Константин), а не через нарицательные слова. К тому же суффикс «-ан» в прозвищах чаще встречается в тюркских заимствованиях (ср. «аргамак», «басурман»). Поэтому версия с «гостем» выглядит убедительнее и объясняет и редкость фамилии, и её ареал.

Сословно Косталановы, скорее всего, были крестьянами или казаками. Фамилия не встречается в дворянских родословных книгах, а её звучание выдает простонародное происхождение. Сегодня носители фамилии живут преимущественно в Ставропольском крае, Ростовской области и в Дагестане — именно там сохранилась память о тех, кого когда-то называли «косталанами».