Фамилия Кастецкая принадлежит к распространённому типу польских и украинских фамилий на -ский/-цкий. Основа здесь — топоним Кастцы или Кастец. Так могли называть выходца из населённого пункта с похожим названием: например, деревни Кастцы в бывшей Гродненской губернии или местечка Кастец (сейчас таких топонимов на карте почти не осталось, но в актах XVI–XVII веков они встречаются). Суффикс -цк- — это вариант -ск- после корня на твёрдый согласный, характерный для шляхетских и мещанских фамилий Речи Посполитой.

Менее вероятная, но возможная версия — происхождение от личного прозвища Кастец, которое могло быть связано с диалектным словом «кастец» (кастет, то есть ударное оружие). В этом случае прозвище давали драчуну или кузнецу, делавшему такое оружие. Однако для фамилий на -ский такая модель нетипична: они почти всегда указывают на место, а не на занятие или качество.

Женская форма Кастецкая указывает, что носительница — либо жена, либо дочь Кастецкого. В польской традиции до середины XX века женщины часто брали фамилию мужа в такой форме, и она закреплялась за родом. Географически фамилия больше всего встречается на западе Украины (Волынь, Подолье) и в восточной Польше — там, где проходила граница расселения шляхты и крестьян-однодворцев, носивших подобные фамилии.

В России фамилия редкая. Если ваши предки носили её до революции, скорее всего, они были выходцами из западных губерний — Волынской, Киевской или Подольской. В советское время фамилия могла распространиться с миграциями на восток.