Фамилия Кострець — редкий пример, где прозвище перешло в фамилию без типичных суффиксов (-ов, -ин, -ский). В русской ономастике такой способ называют «нулевой суффиксацией»: человека прозвали Кострец, и это же слово стало его родовым именем. Встречается такая модель в основном на юго-западе России, в Беларуси и на Украине, где фамилии часто застывали в форме чистого прозвища.

Основа фамилии — слово «кострец». У него два основных значения, и оба могли дать прозвище. Первое, самое древнее — скелет, остов, костяк. В некоторых говорах так называли крупную кость, особенно тазовую часть туши животного. Второе, более бытовое — растение костёр (Bromus), сорная трава с жёсткой метёлкой. В старину кострецом могли назвать и человека с выступающими костями (худого, сутулого), и того, кто жил в поле или на пустоши, поросшей этой травой.

Слово «кострец» фиксируется в словаре В. И. Даля с пометой «южное, западное». Это указывает на географию фамилии: она скорее всего сложилась в южнорусских или белорусских землях, где диалектная лексика сохраняла архаичные формы. Фамилия могла возникнуть в среде крестьян или казаков — в среде, где прозвища давали по внешности, месту жительства или хозяйственной деятельности.

Интересная деталь: в украинском языке «кострець» также означало хребет (позвоночник) животного. Это сближает фамилию с целым рядом прозвищ, образованных от названий частей тела — таких как Лоб, Нос, Зуб. Но в отличие от них, Кострець не так очевидна для носителя языка сегодня, поэтому её значение часто ускользает.

Встречается фамилия и в польском написании Kostrzec, что подтверждает её западнославянские корни. В русском языке она могла закрепиться в форме Кострец (в родительном падеже — Костреца), а вариант Кострець — это скорее украинская или белорусская фонетическая передача, где мягкий знак указывает на смягчение конечного согласного.

Таким образом, предки человека с фамилией Кострець, скорее всего, жили на границе великорусских и малорусских земель, а их родовое имя отсылает либо к внешнему виду (выдающаяся кость, худоба), либо к месту обитания (поле, поросшее костром). Точнее сказать сложно — фамилия не попала в массовые списки дворянских или купеческих родов, а осталась в народной среде.