Фамилия Костеневская принадлежит к типично дворянскому или шляхетскому словообразовательному типу — с суффиксом -ск-. В отличие от самых распространённых русских фамилий на -ов и -ин, которые чаще возникали в крестьянской и купеческой среде, фамилии на -ский указывали на владельческий статус или географическое происхождение: их носителями обычно были помещики, духовенство и польская шляхта. Женская форма Костеневская образована от мужской Костеневский, а та, в свою очередь, — от топонима Костенево или Костенев. Такие названия нередко встречаются в центральной России и на западе: например, село Костенево есть в Тверской области, а деревни с похожими корнями — в бывших польских и литовских землях.

Основа фамилии — имя или прозвище Костень. В русской ономастике это может быть производное от канонического имени Константин (уменьшительное Костя → Костень) либо от слова «кость» — прозвище костлявого, худого человека. Второй вариант менее вероятен, но не исключён: прозвища по внешним признакам давали часто, и суффикс -ень как раз характерен для таких образований (ср. Сухмень, Кривень). Однако в паре с суффиксом -евский/-евская логичнее выглядит версия от имени: Костень — это народная форма Константина, а Костеневский — потомок Костеня, владелец или житель его поместья.

Стоит обратить внимание на окончание -евская, а не -овская. Это указывает на то, что первоначальная основа оканчивалась на мягкий согласный или -й: Костень → Костенев. Если бы основа была Костен, мы бы получили Костеновский. Такая деталь помогает отличить фамилию от родственных, но не тождественных — например, Костенковский или Костенко. В украинской и белорусской среде фамилия могла появиться без дворянского оттенка: суффикс -ский в этих регионах иногда присваивали крестьянам при переписях по названию деревни. Костеневская — редкая фамилия, её носители, скорее всего, происходят из одного гнезда, связанного с конкретным селом или усадьбой.