Фамилия Костяновская — это типичная «географическая» фамилия, образованная по модели, которая в XVIII–XIX веках была распространена в среде духовенства и польско-литовской шляхты. Её основа — название населённого пункта с корнем «Костян-». Таких сёл и деревень немало на территории современной Украины, Беларуси и восточной Польши: например, Костяновка, Костяны, Костянец. Владелец или уроженец такого места получал прозвание «Костяновский», то есть «из Костяновки». Суффикс -ск- в таких фамилиях указывает на происхождение или принадлежность, а окончание -ая — это русифицированная форма женского рода, закрепившаяся в документах.

Словообразовательная модель Костяновская — притяжательное прилагательное от топонима. Первичная форма — Костяновский, а Костяновская — это либо запись замужней женщины (жена Костяновского), либо, что реже, фиксация фамилии в женском роде, если носительница была вдовой или дочерью. В массовом порядке такие «женские» варианты закреплялись в метрических книгах и ревизских сказках, а позже перешли в паспорта.

Сам топоним Костяновка, скорее всего, восходит к личному имени Костя (уменьшительное от Константин) с патронимическим суффиксом -ан-. То есть первым поселенцем или владельцем земли был некий Костя, и его хутор или деревню назвали Костяновкой. Вторая, менее очевидная версия — связь с диалектным словом «костяный» (относящийся к кости, костяной), но она маловероятна для названия поселения: географические названия редко образуются от прилагательных, обозначающих материал, если только речь не идёт о промысле (например, Костяной переулок в Москве — от косторезов). Для фамилии Костяновская эта версия остаётся гипотетической и слабо подтверждённой.

В сословном плане фамилия Костяновская почти наверняка принадлежала духовенству или мелкой шляхте. В XIX веке семинаристам часто давали фамилии по названиям сёл, где служил их отец-священник, или по храмовым праздникам. Если предки не были священниками, то, вероятно, речь идёт о польской или украинской шляхте, которая носила фамилии на -ский как знак благородного происхождения. В любом случае, это не крестьянская фамилия: у крепостных крестьян фамилии на -ский встречаются редко и обычно как исключение.

Сравнение с однокоренными фамилиями — Костяев, Костяков, Костюков — показывает разницу в суффиксах: -ев и -ов указывают на отчество («чей сын?» — Костин, Костяков), а -ский — на территориальную принадлежность. Костяновская стоит в этом ряду особняком: она не говорит «чей ты», а отвечает на вопрос «откуда ты». Поэтому, если вы встретите человека с такой фамилией, велика вероятность, что его предки происходят из одного из сёл с корнем «Костян» на западе бывшей Российской империи.