Фамилия Карканец — редкий случай, когда географическая привязка почти наверняка перевешивает прозвищную версию. В её основе лежит топоним Карканица или Карканец — название нескольких деревень на западе современной Беларуси, в Гродненской области. Такая модель образования (основа + суффикс -ец) типична для фамилий, указывающих на выходца из определённого места: ср. Могилевец, Витеблец, Ковнац. Носитель фамилии — человек, пришедший из Карканицы или переселившийся оттуда в другую местность.

Если отбросить географию, остаётся прозвищная версия. В белорусских и польских говорах «карканец» могло быть производным от глагола «каркать» — то есть нести вздор, ворчать, говорить неприятные вещи. В таком случае прозвище давали сварливому, брюзгливому человеку. Однако эта гипотеза слабее: слишком много деревень с похожим названием, чтобы не видеть в фамилии указание на родину предка.

Любопытна структура фамилии. Суффикс -ец в русской и белорусской ономастике часто выполняет функцию «катойконима» — обозначения жителя по названию места (ср. «вологжанин», «киевлянин»). Но в фамилиях он редкость, особенно в чистом виде, без дополнительного патронимического суффикса. Карканец — одна из тех фамилий, которые сохранили исходную форму, почти не изменившуюся за века.

Сословная принадлежность носителей, скорее всего, была крестьянской или мещанской. Фамилия не несёт признаков дворянского или шляхетского рода: ни приставки, ни характерного окончания -ский. В метрических книгах XIX века Карканцы встречаются в основном среди православных и католиков Гродненщины, что подтверждает западнорусское происхождение.