Фамилия Каркаевы образована от прозвища или имени Каркай. В основе лежит тюркский глагол «карка-» — «каркать, издавать резкий звук», либо слово «карга» — «ворона». В тюркских языках, особенно в кумыкском, ногайском и карачаево-балкарском, прозвища от названий птиц были обычным делом: ими наделяли либо за внешнее сходство (например, за темный цвет волос или сгорбленную фигуру), либо за манеру говорить — громко, отрывисто, «по-вороньи». Так что первый Каркай мог быть либо чернявым и сутулым, либо обладателем зычного голоса.

Словообразовательная модель типична для русских фамилий на Северном Кавказе и в Поволжье: к тюркской основе прибавили русский патронимический суффикс -ев, указывающий на принадлежность роду. Получается «Каркаевы» — буквально «дети Каркая». Фамилия не аристократическая и не крестьянская в классическом великорусском смысле: она характерна для горских народов, которые в XIX веке входили в состав Российской империи и получали фамилии по отцу при переписях и воинском учете.

Географически фамилия тяготеет к Дагестану, особенно к кумыкским селам, и к Чечне. Встречается она и у ногайцев Ставрополья. В дореволюционных источниках фамилия фиксировалась с разным ударением — на последний слог (Каркаевы) или на первый (Каркаевы), что зависело от местного говора. В советское время написание устоялось, но в метрических книгах конца XIX века можно найти варианты «Каркаевъ» и даже «Коркаев» — с буквой «о» из-за аканья, свойственного некоторым тюркским диалектам.

Спорных версий происхождения у фамилии немного. Иногда её пытаются связать с арабским «каркаа» — «круг, кольцо», но это натяжка: в тюркской ономастике Кавказа птичьи прозвища встречаются в разы чаще, чем заимствования из арабского. Более правдоподобна версия, что в основе лежит уменьшительное от имени «Карка» — так в кумыкском языке называли младшего сына в семье, но и она уступает «вороньей» гипотезе по частоте употребления аналогичных фамилий (ср. Каргаев, Каргалин).

Каркаевы — не массовая фамилия, и это хорошо: она сохранила прямую связь с прозвищем предка, не стертым временем. Если ваш предок носил её в XIX веке, он с большой вероятностью жил в предгорьях Дагестана, занимался скотоводством или земледелием, а прозвище получил от соседей-односельчан за характерный голос или внешность.