Фамилия Карковский — одна из тех, чья основа лежит на стыке польской и восточнославянской традиций. Типичный суффикс -ский указывает на дворянское или шляхетское происхождение в Речи Посполитой, но в XIX веке такие фамилии массово получали и выходцы из духовенства, и крестьяне при переходе на фамилии по названию местности. В случае Карковского ключ к разгадке — корень «карк».

В польском и белорусском языках «карк» означает «затылок», «шея» или «загривок». Прозвище Карк давали человеку с крепкой, бычьей шеей, либо тому, кто носил что-то на загривке (например, носильщику). Ономаст Борис Унбегаун в своём труде «Русские фамилии» относит подобные модели к прозвищным, образованным от частей тела. От прозвища Карк возникла фамилия Карков, а от неё через прибавление шляхетского суффикса — Карковский, то есть «потомок Карка».

Есть и географическая версия. В Польше и Западной Украине существует несколько населённых пунктов с названием Каркув (Karków) или Карково. Фамилия Карковский могла закрепиться за выходцем из такого села: «тот, кто из Каркова». Этот путь типичен для фамилий на -ский, которые в Польше часто были топонимическими.

Встречается и редкая, но любопытная версия — связь с литовским словом karkas («ива»). В зоне литовско-славянского пограничья (современные Гродненская, Витебская области) прозвище Карк могло означать человека, жившего у ивовых зарослей, но это предположение менее обосновано: суффикс -ский в чисто литовской среде нехарактерен.

Социально носители фамилии Карковский в Российской империи чаще всего были мещанами или однодворцами западных губерний. Встречается она и в среде польской шляхты, но без документального подтверждения принадлежности к гербу говорить о дворянстве всех Карковских не приходится. Сегодня фамилия редкая, сосредоточена в Беларуси, на востоке Польши и в западных областях России.