Фамилия Костяница звучит необычно, и её разбор стоит начать с суффикса. Окончание -ица — один из древнейших славянских суффиксов, который мог указывать на жену или дочь человека по имени Костя (усечённая форма от Константин). В этом случае Костяница — это «жена Кости» или «дочь Кости». Однако такая модель (отчество или прозвище на -ица) в русской фамильной традиции встречается редко, чаще она характерна для украинских, белорусских и польских фамилий. Поэтому логичнее предположить, что основа — не личное имя, а прозвище или название места.

Второй, более вероятный путь: прозвище Костяница. В русских говорах «костяница» — это лесная ягода (костяника), известная твёрдыми косточками. Прозвище могли дать человеку крепкому, «костлявому», либо тому, кто промышлял сбором или продажей этой ягоды. Фамилии от названий растений и плодов (Калина, Малина, Рябина) встречаются, но Костяница — редкий случай, что делает её ценной для ономастики.

Также не стоит исключать топонимическую версию. В Беларуси и на западе России есть несколько небольших деревень с названием Костяница (например, в Гомельской области). Если предки переселились из такой местности, фамилия могла закрепиться за ними как указание на прежнее место жительства. В пользу этой версии говорит географическая привязка: большинство носителей фамилии Костяница в исторических документах XIX века встречаются именно в западных губерниях Российской империи — Могилёвской, Витебской, Черниговской.

Что касается сословного происхождения, то, судя по архивным записям, Костяницы чаще всего были крестьянами или мещанами. Дворянских родов с такой фамилией не зафиксировано. Морфологически фамилия осталась в форме, близкой к исходному прозвищу, без типичных русских суффиксов -ов или -ин, что ещё раз подтверждает её возможное украино-белорусское или западнорусское происхождение.

Коротко: если вы Костяница, ваши предки, скорее всего, были выходцами с запада России или востока Беларуси, а фамилия могла произойти либо от прозвища по ягоде или внешности, либо от названия деревни, где они жили.