Фамилия Кароли — редкий для России случай, когда польская или украинская фамилия закрепилась в русском контексте почти без изменений. В отличие от типичных русских фамилий на -ов или -ин, Кароли не прошла этап русификации: её основа — личное имя или прозвище — осталась в форме родительного падежа единственного числа от польского Karol (Кароль, то есть Карл). Такой тип фамилий характерен для западных регионов бывшей Речи Посполитой — Беларуси, Украины, Польши, где окончание -и (-ий) часто указывало на принадлежность: Кароли значит «сын Кароля» или «из рода Кароля».

Корень фамилии восходит к латинскому Carolus, которое через немецкое Karl стало общеевропейским именем Карл. В славянских языках это имя давало множество производных: Кароль, Каролёк, Каролинский. Фамилия Кароли — одна из кратких форм, где ударение, скорее всего, падает на последний слог (Каролú), что тоже указывает на польское или украинское происхождение, а не на венгерское (где Кароли с ударением на первый слог — это уже совсем другая фамилия, образованная от венгерского Károly).

Носители фамилии Кароли в России XIX века — это, как правило, выходцы из шляхты или мещан западных губерний, которые переселялись в центральные регионы. Встречается фамилия и среди еврейского населения бывшей черты оседлости, где имя Карл (или его идишский вариант) могло быть дано по родственнику или по библейскому персонажу (в этом случае фамилия могла быть изменена из более длинной формы, например, Каролинский). Географически фамилия чаще всего фиксируется в Волынской, Подольской и Гродненской губерниях.

Словообразовательная модель здесь проста: основа Karol + окончание -i, которое в польском языке выполняет роль притяжательного суффикса. Аналогов в русском языке нет — это чисто западнославянская черта. Если бы фамилия русифицировалась, она звучала бы как Каролов или Каролин, но этого не произошло, что делает Кароли хорошим маркером миграционных путей: предки носителя скорее всего не были крепостными в центральной России, а принадлежали к свободным сословиям западных окраин.

Споров вокруг происхождения почти нет: венгерская версия (от Károlyi — знатный род) маловероятна для русских носителей, так как венгерские фамилии в России единичны и обычно связаны с дворянством, принявшим православие, но таких случаев по фамилии Кароли не зафиксировано. Поэтому основная и единственная рабочая гипотеза — польская или украинская основа с именем Кароль.