Фамилия Костецкая — женская форма фамилии Костецкий, и её происхождение связано сразу с двумя возможными источниками, которые не исключают друг друга. Первый и самый очевидный вариант: основа «Кост-» восходит к краткой форме имени Константин — Костя, Костей. Имя Константин греческого происхождения, означает «стойкий, постоянный», и в русской традиции уменьшительные формы (Костя, Костей, Костюк) были настолько распространены, что сами становились самостоятельными прозвищами, а затем и фамилиями. Второй вариант: прозвище Костей могли дать очень худому, измождённому болезнью человеку — «кожа да кости». Такие прозвища по внешнему виду в Древней Руси были обычным делом: Худяк, Сухой, Костей. Позже прозвище Костей, изначально присоединённое к личному имени, полностью вытеснило его в быту и документах.

Суффикс «-цк-» в фамилии Костецкая — типичный для польской, украинской и западнорусской традиции. Он указывает либо на происхождение из местности с названием Костцы, Костец, либо на принадлежность к шляхетскому или казацкому роду. В отличие от массовых фамилий на «-ов/-ев», форма на «-ский» часто носила более книжный, «дворянский» оттенок, хотя на практике её носили и крестьяне, и мещане, особенно на территории Речи Посполитой и Малороссии. Таким образом, Костецкий — это не просто «сын Кости», а скорее «человек из рода Костей» или «выходец из Костец».

Географически фамилия Костецкая встречается преимущественно в западных и южных регионах бывшей Российской империи: на Украине, в Беларуси, в Польше, а также в центральных областях России, куда переселялись выходцы с запада. Фамилия не относится к редким, но и не входит в первую сотню распространённых — это типичная фамилия среднего слоя, без резкой сословной привязки.

Если смотреть на словообразовательную модель, то Костецкая — притяжательное прилагательное с суффиксом «-ск-», которое в женском роде получило окончание «-ая». В мужском варианте — Костецкий. Это классическая модель для фамилий, образованных от географических названий или прозвищ с суффиксом «-ец»: Костец — Костецкий. Параллельные формы — Костевич, Костенко, Костеев — показывают, насколько разнообразно обыгрывалась одна и та же основа в разных диалектных и социальных средах.

Таким образом, если ваши предки носили фамилию Костецкая, они могли быть либо потомками человека по прозвищу Костей (худого или, наоборот, носившего имя Константин), либо выходцами из населённого пункта с похожим названием. Точнее определить можно только по конкретным архивным записям, но оба пути — и прозвищный, и топонимический — для этой фамилии равновероятны.