Фамилия Каркуленко — яркий пример украинской модели фамилии на -енко, которая в XVII–XVIII веках закрепилась в восточных и южных регионах. Суффикс -енко исторически обозначал «сына» или «потомка», поэтому Каркуленко буквально означает «сын Каркула» или «потомок Каркула».

Основа фамилии — прозвище Каркул. Оно, скорее всего, восходит к украинскому диалектному «каркути» (каркать, издавать хриплый звук) или к «карк» (ворона, ворон). Прозвище Каркул могли дать человеку с хриплым, резким голосом, похожим на воронье карканье, или же тому, кто много и неприятно говорил. В украинских говорах «каркун» — это и ворчун, и тот, кто картавит. Таким образом, фамилия отражает не столько внешность, сколько характерную особенность поведения или речи предка.

Географически фамилия Каркуленко тяготеет к центральным и восточным областям Украины — Черкасской, Полтавской, Киевской. В России она встречается реже, преимущественно в Краснодарском крае и Ростовской области, куда переселялись украинские казаки и крестьяне в XVIII–XIX веках. В отличие от фамилий на -ов/-ев, Каркуленко не указывает на принадлежность к вотчине или помещику, а напрямую связывает носителя с личным прозвищем родоначальника.

В русских переписях и метрических книгах фамилию могли записывать с искажениями: Каркулин, Каркулёв, иногда Каркуленков (с русифицированным окончанием). Но исходная форма на -енко сохранилась, и это говорит о том, что предки были выходцами из среды, где украинская антропонимическая традиция оставалась устойчивой — скорее всего, казаки или свободные крестьяне, а не крепостные.