Фамилия Костенецкая — женская форма фамилии Костенецкий, и её происхождение напрямую связано с историей мужской линии. В основе фамилии лежит имя или прозвище Костенец. Самая вероятная версия — что это уменьшительная форма крестильного имени Константин (в переводе с латыни «твердый, постоянный»), которая со временем закрепилась как фамильное прозвище. По аналогии с другими фамилиями на -ский (вроде Петровский или Ивановский), Костенецкий буквально означало «сын Кости» или «потомок Костенца».

Но есть и другая линия, не связанная с именем. Слово «кость» в старину имело не только анатомическое значение. Костью называли бивни слона, моржа и других животных — ценный материал для поделок. Поэтому Костенцом могли прозвать мастера-костореза, который делал гребни, пуговицы, талисманы и украшения. Ещё одно, более неожиданное значение: в карточной среде Костенцом называли страстного, азартного игрока. Какая из версий верна для конкретной семьи — без генеалогического исследования сказать трудно.

Известен малороссийский дворянский род Костенецких. Его родоначальником считают шляхтича Назария Костенецкого, жившего в 1664 году. Этот род записан во II часть родословной книги Черниговской губернии. Самый известный представитель — генерал-лейтенант Василий Григорьевич Костенецкий (1769–1831), участник Наполеоновских войн. Фамилия, таким образом, имеет не только бытовое, но и документально подтверждённое дворянское прошлое. Окончательно определить, от какого именно прозвища или имени пошла та или иная ветвь Костенецких, можно только по архивным записям конкретной семьи.