Фамилия Кощаева — женская форма от Кощаев, и её разбор стоит начать не с корня, а с суффикса. Суффикс -ев (а не -ов) указывает на основу, которая заканчивалась на мягкий согласный, шипящий или «ц». В данном случае основа «Коща» — прозвище или дохристианское имя, которое могло звучать как Кощ, Коща или Кощей.

Самый прямой путь — связать фамилию с хорошо известным словом «кощей» (или «кащей»). В древнерусском языке так называли худого, измождённого человека, иногда — скупого или злого. В былинах и сказках Кощей Бессмертный — не просто персонаж, а отражение старого значения: «кощун» (насмешник, колдун) или «костить» (бранить, ругать). Прозвище Коща или Кощей мог получить либо очень худой человек, либо сварливый старик. Фамилии от таких прозвищ — не редкость: Кощеевы, Кощевы, Кощаевы — все они из одного гнезда.

Есть и другая, менее популярная версия. В южнорусских и украинских говорах «коща» могло означать «мелкая щепка», «стружка» или «костеря» — жёсткая часть льна, остающаяся после трепания. Если предок занимался обработкой льна или был плотником, его могли прозвать Кощей за сухость или за работу с кострой. Но эта гипотеза слабее: прозвище от орудия труда или отхода производства встречается реже, чем от внешности или характера.

Географически фамилия Кощаев (и Кощаева) тяготеет к югу России и Украине: Ростовская область, Краснодарский край, Донбасс. Встречается и в Беларуси. Это косвенно подтверждает связь с украинским или донским говором, где «кощей» звучало естественно. В документах XVII–XVIII веков можно найти казаков с прозвищем Коща — фамилия могла закрепиться именно в казачьей среде.

Словообразовательная модель проста: прозвище Коща + притяжательный суффикс -ев (чей? — Кощаев сын). То есть первый носитель фамилии — сын или потомок человека по прозвищу Коща. Социальный статус предков, скорее всего, был крестьянским или казачьим: фамилия не дворянская, не книжная, а бытовая, народная. Никаких известных исторических личностей с этой фамилией в открытых источниках нет — она осталась в тени, но от этого не менее показательна для понимания того, как в русских сёлах давали прозвища по внешности и нраву.