Фамилия Косторные — это форма множественного числа, характерная для фамилий, закрепившихся в семьях, где главу рода звали Косторный. В русском языке такие окончания обычно указывают на коллективную принадлежность: «из дома Косторных», «семья Косторных». Эта модель чаще встречается в северных и центральных областях России, а также в некоторых регионах Украины, где фамилии на -ый, -ой переходили в форму множественного числа при обозначении всей семьи.

Основа фамилии — прозвище Косторный, вокруг которого сложилось несколько версий. Самая убедительная связывает его с ремеслом. Слово «костерь» (или «костра») обозначает жёсткую кору стеблей льна и конопли, которую отделяют при трепании. Косторным могли называть мастера, который обрабатывал лён или коноплю, — трепальщика или прядильщика. Работа с кострой была пыльной и грубой, поэтому прозвище могло закрепиться за человеком суровым, жёстким по характеру.

Вторая версия уводит в другую сторону — к азартным играм. В старину «костями» называли игральные кубики или бабки. Косторный — это заядлый игрок в кости, а позже, по аналогии, так могли назвать картёжника или даже шулера, промышлявшего игрой. В говорах слово «костарь» означало именно мошенника-игрока, так что эта версия имеет под собой лингвистическую почву.

Третье объяснение — менее вероятное, но встречающееся в народной этимологии. Фамилию выводят от имени Константин (греч. «стойкий, постоянный»). В уменьшительной форме Костя, Костор (как вариант просторечного обращения) могло возникнуть прозвище Косторный, которое затем стало фамилией. Однако такая цепочка менее типична для украинской и русской ономастики: суффикс -н- в этом случае выглядит искусственным.

Фамилия Косторные — живой след прозвища, которое когда-то точно описывало человека: либо по его ремеслу, связанному с льняной кострой, либо по страсти к игре в кости. Обе версии не противоречат друг другу — в разных родах фамилия могла возникнуть независимо, по разным причинам.