Фамилия Карькаева — женская форма, исходная мужская — Карькаев. Она образована от прозвища или нецерковного имени Карька, а тот корень, скорее всего, связан с диалектным словом «карька» или «карько». В русских говорах так называли ворону, галку, а также лошадь карой масти — серой с чёрным отливом. Человек мог получить прозвище Карька за смуглый цвет лица, за тёмные волосы или за привычку картавить, «карькать». Вторая версия менее вероятна, но возможна: Карька — уменьшительная форма от редкого крестильного имени Карион (греч. «карий» — «карийский», по области в Малой Азии) или от Карп. Однако в народной среде такие книжные имена обычно переосмыслялись и звучали как Карюха, Карпушка, а не Карька.

Суффикс -ев указывает на принадлежность: Карькаев буквально означает «сын Карьки». Модель типична для русских фамилий, возникших в XVI–XVII веках у крестьян и посадских людей. В отличие от дворянских фамилий на -ово/-аго, эта фамилия не несёт сословной окраски — её носители были, скорее всего, черносошными крестьянами или ремесленниками из центральной России или Поволжья. Встречаемость фамилии невысокая, она редка даже в базах данных по Ярославской и Костромской губерниям, где «карька» как прозвище фиксируется в говорах.

Интересная деталь: в некоторых переписях XVII века встречается форма Карькин — от того же корня, но с другим патронимическим суффиксом. Карькаев же сохранил более архаичный вариант, где прозвище не перешло в фамилию через -ин, а осталось в притяжательной форме на -ев. Это может говорить о том, что фамилия закрепилась в письменных документах позже, уже после того, как суффикс -ев стал вытеснять -ин в некоторых регионах.