Фамилия Костяневская образована по модели, типичной для польской, белорусской и украинской шляхты: основа + суффикс -евск-/-овск- с окончанием -ая (в русской передаче) или -а/-я (в оригинале). Это так называемая «географическая» модель: фамилии на -ский/-цкий обычно указывали на родовое поместье или местность, откуда происходил род. В данном случае основа — Костян-.

Самый прямой путь к происхождению — топоним Костянево или Костянев. Такие названия встречаются в Польше (Kostaniewo) и на западе Беларуси. В основе топонима, скорее всего, лежит имя или прозвище Костян — народная форма канонического имени Константин (от лат. constans — «стойкий, постоянный»). В восточнославянской среде имя Константин в быту часто сокращали до Костя, а от него образовывали уменьшительные или владельческие формы: Костян (как Иван — Иван, Пётр — Петрян). Соответственно, владелец хутора или деревни Костянево мог зваться Костяном, а его потомки, переселившись, получали прозвание по утраченному имению — Костяневские.

Менее вероятная, но допустимая версия — происхождение от прозвища Костяной, то есть «худой, костлявый», с последующим оформлением в Костяневский. Однако для фамилий с суффиксом -ский такая «прозвищная» этимология встречается реже: эти фамилии практически всегда привязаны к конкретному месту.

В Российской империи фамилии на -ский, особенно с «дворянским» окончанием -ая, часто указывали на принадлежность к мелкопоместной шляхте (в западных губерниях) или к духовенству (в центральной России). Семинаристы нередко получали фамилии по названию родного села или по имени святого в «польском» оформлении. Поэтому предки Костяневских могли быть как обедневшими шляхтичами, так и выходцами из церковной среды, получившими фамилию при поступлении в семинарию.

Ударение в фамилии, скорее всего, падает на второй слог — Костя́невская (от Костя́н). Вариант с ударением на третий слог (Костяне́вская) возможен, но менее органичен для словообразовательной модели. Фамилия редкая, её корень не стоит путать с более частотными Костеневскими (от Костеня — тоже форма Константина) или Костяновскими.