Фамилия Каркосов — редкий пример, где за привычной славянской «одеждой» (суффикс -ов) скрывается, скорее всего, неславянская основа, тюркского или кавказского происхождения. Если отбросить окончание, указывающее на принадлежность («чей сын?»), остаётся корень «Каркос».

Самая вероятная версия ведёт к тюркскому мужскому имени Каркоз (или Каркуз). В тюркских языках оно составное: «кар» (снег) и «коз» (глаз) — то есть «снежноглазый», «светлоглазый». Прозвищные имена по цвету глаз (Аккоз — «белоглазый», Каракоз — «черноглазый») были широко распространены у татар, башкир, ногайцев. В русскую среду такое имя могло попасть через межэтнические браки или при переходе крещёных татар в русские сословия. Со временем имя Каркоз обросло русским суффиксом -ов, и получился Каркосов — «потомок Каркоза».

Вторая гипотеза, менее популярная, но имеющая право на существование, — связь с греческим словом «каркос» (κάρκος), обозначающим какой-то вид плодового дерева или кустарника. В этом случае фамилия могла бы означать «живущий у каркоса» или «торгующий плодами каркоса». Однако греческая версия слабее: в русских говорах и письменных источниках такое слово не фиксируется как прозвище, а фамилии от названий растений обычно образуются через -ин (Калинин, Рябинин) или -ский (Вишневский), а не -ов от грецизма.

Географически носители фамилии Каркосов встречаются в Поволжье (Татарстан, Башкортостан, Самарская область) и на юге России — в Краснодарском крае и Ростовской области. Это совпадает с зонами активных тюркско-русских контактов.

Суффикс -ов в фамилии не информативен — он стандартный патронимический, самый массовый в русском языке. Интереснее то, что фамилия почти не имеет вариантов написания (изредка встречается Каркасов). Одинарная буква «с» в корне и отсутствие удвоения — признак того, что основа пришла в русский язык через устное бытование, без книжного влияния.

В итоге: предки современного Каркосова с высокой вероятностью были крещёными татарами или выходцами из тюркской среды, носившими личное имя Каркоз. Фамилия закрепилась в русском быту в XVI–XVII веках, когда оформлялись фамилии у служилых и посадских людей.