Фамилия Каролинский — одна из тех, где ясна модель образования, но спорна исходная основа. Суффикс -ский указывает на географическое или топонимическое происхождение: такую фамилию обычно получал человек, владевший поместьем или живший в месте с названием Каролин, Каролино, Каролинка. Такие топонимы встречаются на территории бывшей Речи Посполитой — в современной Польше, Беларуси и Западной Украине. Само название, скорее всего, восходит к мужскому имени Кароль (польская форма имени Карл) с типичным для славянских языков суффиксом принадлежности -ин. То есть Каролин — это «земля Кароля» или «поселение Кароля».

Менее вероятная, но возможная версия — происхождение от фамилии Каролинский как варианта более распространённой Карлинский. В этом случае корнем могло бы быть слово «карла» (в старых говорах — коротышка, человек маленького роста) или тюркское «карлы» (снежный), но фонетический переход от Карлинский к Каролинскому нехарактерен для русской ономастики. Поэтому основная гипотеза остаётся польско-шляхетской.

По сословной принадлежности: фамилии на -ский в Российской империи чаще всего носили дворяне и духовенство, особенно выходцы из западнорусских земель. Каролинские могли быть мелкопоместной шляхтой, получившей фамилию по названию своего хутора или фольварка. В польских гербовниках эта фамилия не фигурирует среди известных родов, что говорит о её локальном, а не общенациональном распространении.

Встречаются два варианта ударения: Кароли́нский (от топонима) и Каролински́й (как притяжательное прилагательное от Каролина — женского имени). В современной русской традиции более распространён первый вариант, с ударением на третий слог. Фамилия редкая, не входит в сотни самых частых русских фамилий, и её носители, скорее всего, сосредоточены в западных регионах России, Беларуси и Украине, а также среди потомков эмигрантов первой волны.