Фамилия Каровяковский — редкий пример, где географическая привязка оказывается надёжнее, чем прозрачная семантика корня. Судя по суффиксу -ский, перед нами типичная дворянская или шляхетская фамилия, образованная от названия места. Если бы фамилия была крестьянской, она скорее получила бы окончание -ов или -ин. Формант -ский указывает на владельческий или служилый статус: так называли помещиков по их вотчинам или выходцев из определённой местности.

Корень «Каровяк-» почти наверняка восходит к названию населённого пункта. В Польше и Западной Беларуси существовали деревни Коровяки (Korowiaki) и Каровяки (Karowiaki). Название этих сёл, в свою очередь, происходит от прозвища или профессии: «коровяк» — человек, имеющий отношение к коровам (пастух, скотник, владелец крупного рогатого скота). В польском языке «krowa» — корова, а «karowy» может быть вариантом диалектного произношения. Таким образом, фамилия Каровяковский буквально означает «выходец из Каровяков» или «принадлежащий к роду из Каровяков».

Менее вероятна, но возможна версия, связывающая основу с тюркским «кара» (чёрный). Тогда «каровяк» могло быть прозвищем человека со смуглой кожей или тёмными волосами, а фамилия — отчество от этого прозвища с добавлением -ский. Однако против этой версии говорит то, что в славянской ономастике суффикс -як чаще встречается в прозвищах от занятий или внешности, а не от тюркских корней, и в паре с -ский такое сочетание выглядит искусственным.

В дореволюционных метрических книгах фамилия встречается в основном среди католиков и униатов на территории Гродненской и Минской губерний. Это подтверждает польско-белорусское происхождение. Носители фамилии, скорее всего, принадлежали к мелкой шляхте или однодворцам — потомкам служилых людей, которые владели небольшими участками земли, но не имели крепостных. В советское время написание могло измениться с «Коровяковский» на «Каровяковский» под влиянием местных говоров или при паспортизации.