Фамилия Косторная — женская форма, но в русской традиции фамилии на -ой/-ый склоняются по падежам и не «застывают» в женском роде, как у поляков. Мужской вариант — Косторный. Это отчество-прилагательное, образованное от прозвища или географического названия с помощью суффикса -н- и окончания -ый/-ой. Модель типична для южнорусских и украинских земель, где такие фамилии встречаются чаще, чем на севере.

Основа «Костор-» неочевидна. Самое прямое объяснение — связь с диалектным словом «косторный», которое в некоторых говорах означало «костлявый», «худой», «сухой». В этом случае прозвище Косторный давали человеку с заметной худобой, с выступающими костями. Звучит резковато, но в прозвищах прямоты не стеснялись.

Другая версия — происхождение от названия населённого пункта. В России и на Украине есть несколько сёл с корнем «Костор-»: например, Косторное в Курской области или Косторня в Черниговской губернии. Переселенец из такой деревни получал прозвище Косторный, то есть «выходец из Косторного». Со временем прозвище закреплялось как фамилия. В пользу этой версии говорит то, что фамилия Косторная (и Косторный) действительно встречается в Курской, Белгородской, Воронежской областях — как раз в зоне распространения таких топонимов.

Третье, менее вероятное объяснение — от личного имени или прозвища Костор, которое могло быть производным от «Коста» (сокращение от Константин) с суффиксом -ор, как в именах Егор, Пётр. Но такая модель для русских фамилий редка, поэтому эта гипотеза уступает первым двум.

В словарях фамилия не зафиксирована в числе частых, что говорит о её локальном бытовании. Если ваши предки — Косторные, скорее всего, они происходят из южнорусских чернозёмных губерний, а сама фамилия связана либо с внешностью родоначальника, либо с названием деревни, откуда он родом.