Фамилия Костарная — женская форма фамилии Костарный, и её происхождение упирается в одно из двух слов: «костерь» или «костарь». Первый вариант — самый прямой и распространённый в русской ономастике. Костерь (или костра) — это жёсткая часть стебля конопли или льна, которая остаётся после трепания и мятия. В старину «костерь» был синонимом мусора, отхода, и прозвище Костерь давали либо человеку, который занимался обработкой льна (трепальщику), либо, в переносном смысле, — сухопарому, тощему или вздорному человеку. Фамилия образована по типичной модели: прозвище Костарь (с переходом «е» в «а» в безударном положении) → Костарный (через суффикс -н-, указывающий на свойство или принадлежность).

Второй вариант — от слова «костарь» в значении «старьёвщик, тряпичник» или «коробейник, мелкий торговец». В некоторых южнорусских говорах «костарить» означало «торговать по мелочам, менять старьё». Если предок носил прозвище Костарь, он мог быть бродячим торговцем или скупщиком ветоши. Эта версия менее вероятна, чем первая, потому что «костерь» в значении «льняной отход» фиксируется в словарях повсеместно, а «костарь» как «торговец» — узкорегиональное слово.

Интересная деталь: суффикс -н- в фамилии Костарный (а не -ов или -ин) указывает на то, что она могла возникнуть не от имени отца, а от прозвища самого человека. Такие фамилии часто давали в среде казачества и в северных областях России. Сравните с однокоренными: Костерёв, Костриков, Костёркин. Фамилия Костарная встречается преимущественно на юге России (Краснодарский край, Ростовская область) и на Украине, что косвенно подтверждает связь с коноплеводством — традиционным промыслом в тех местах.

Если искать социальный контекст: носители фамилии, скорее всего, относились к крестьянскому сословию, занятому в льноводстве или коноплеводстве. Сословных перегородок, которые бы мешали получить такую фамилию, не было — прозвище Костерь давали и вольным землепашцам, и крепостным.