Фамилия Костеницкий — редкий случай, когда географическая привязка почти наверняка перевешивает прозвищную версию. Основа здесь — не имя и не профессия, а топоним, причём не самый очевидный.

Суффикс -ицк- указывает на происхождение от названия места с окончанием -ицы или -ицк. В польской, белорусской и западнорусской ономастике такие фамилии (Костеницкий, Костенецкий) обычно означали «тот, кто из Костениц» или «из Костенец». Само название села или усадьбы Костеницы, скорее всего, образовано от прозвища или имени Костеня (ср. Костя, Константин), но фамилия закрепилась именно за выходцем из этого места. Вероятный ареал — бывшие земли Речи Посполитой: современная Западная Украина, Беларусь, юго-запад России.

Вторая, менее распространённая версия — отчество от прозвища Костеник, которое могло означать «костяной» или «крепкий, как кость», либо относиться к человеку с костяными изделиями (гребень, пуговицы). Но суффикс -ский при таком прозвище дал бы форму Костеников или Костеникин, а не Костеницкий. Поэтому топонимическое объяснение выглядит убедительнее.

Обратите внимание на чередование: в одних документах встречается написание Костенецкий (с буквой «е»), в других — Костеницкий. Это не ошибка, а отражение местного произношения: в говорах «е» и «и» в безударной позиции могли совпадать. Так что предки могли быть записаны по-разному, но корень один — название населённого пункта.

Сословно фамилия не маркирована: её могли носить и крестьяне, переселённые из деревни Костеницы, и мелкая шляхта, владевшая таким хутором. В списках дворянства она не значится, что типично для «географических» фамилий среднего слоя.

Однокоренные фамилии — Костенко (украинская, без суффикса -ский), Костюкевич (белорусская, с патронимическим суффиксом). Костеницкий стоит особняком: это не «сын Кости», а «человек из Костениц», что сразу сужает круг поиска до конкретного места на карте. Если найдёте старую карту с названием Костеницы или Костенец — считайте, что нашли родовое гнездо.