Фамилия Каркдаги — редкий случай, когда в основе лежит не русское слово, а тюркский географический или этнический термин. В отличие от большинства фамилий на -ов и -ин, она не имеет суффикса принадлежности, что сразу выдает её нерусское происхождение. Скорее всего, это отошедшая в пассив формула, застывшая в виде прозвища или указания на место жительства.

Корень «Карк» в тюркских языках может означать «ворона» или «снег» (в зависимости от диалекта), а «даг» — это «гора». Таким образом, «Каркдаг» буквально переводится как «Снежная гора» или «Воронья гора». Суффикс -и на конце — типичный для тюркских языков показатель принадлежности или исходного падежа, то есть «из Каркдага» или «с Каркдага». Вероятно, предок носителя фамилии происходил из местности с таким названием — реального топонима, который мог существовать в Крыму, на Кавказе или в Средней Азии.

Поскольку фамилия не получила русских патронимических суффиксов, она, скорее всего, попала в русский язык в поздний период — через метрические записи или документы переселенцев. Искать её носителей стоит среди потомков крымских татар, кумыков, азербайджанцев или народов Дагестана, где топонимы с «даг» встречаются повсеместно. В дворянские родословные книги Российской империи такая фамилия вряд ли попала — это признак крестьянского или казачьего сословия, либо выходцев из мусульманской среды, принявших православие.

Есть и альтернативная, менее вероятная версия: что «Каркдаги» — это искажённое при переписи армянское или греческое название. Но фонетика и структура указывают именно на тюркский след. Спорных гипотез здесь немного, и самая правдоподобная — географическая привязка к конкретной горе или селению, которое со временем исчезло с карт.