Фамилия Костяновский принадлежит к распространенному в восточнославянском ономастиконе типу фамилий на -ский. В большинстве случаев такие фамилии образовывались от названий географических объектов — сел, местечек, урочищ. Носитель фамилии Костяновский, скорее всего, был выходцем из населенного пункта с корнем Костян-: например, деревни Костяново, Костяны или Костяновичи. Такие топонимы встречаются на территории современной Беларуси, Украины и западных областей России. Суффикс -овск- указывает на принадлежность к месту: «тот, кто родом из Костянова».

Основа Костян- восходит к личному имени Константин в его народной, разговорной форме Костян. В старину имя Константин было популярным, особенно среди духовенства и мещан, а его уменьшительные варианты (Костя, Костян) закреплялись в быту. Фамилия могла возникнуть и напрямую — как отчество от прозвища Костян, то есть «сын Костяна». В этом случае модель образования типична для польской и западнорусской традиции, где суффикс -ский мог присоединяться к личным именам, подчеркивая шляхетский или дворянский статус рода.

Вероятно, предки Костяновских относились к мелкопоместной шляхте или служилым людям: именно эти сословия чаще всего оформляли фамилии по модели «владение + -ский». В документах Речи Посполитой и Российской империи фамилия фиксируется с XVII–XVIII веков, преимущественно в Волынской, Подольской и Минской губерниях. Встречается и вариант написания Костяновский с одной «с», что не меняет этимологии.

Сравнение с однокоренными фамилиями (Костяев, Костюков, Костин) показывает, что Костяновский — более «географическая» и статусная форма. Если Костин указывает на прямого предка по имени, то Костяновский — на целое родовое гнездо. Это типичный пример фамилии, которая говорит не о профессии или внешности, а о месте, где род пустил корни.