Фамилия Костяная образована от прозвища Костяной. Оно ведет свое начало от аналогичного нарицательного со значением «сделанный из кости». Вероятно, прозвище относится к числу «профессиональных» именований, содержащих указание на деятельность основателя фамилии: он мог заниматься изготовлением и продажей различных изделий, поделок, амулетов из кости. Возможно также, что Костяным прозвали худого человека. Таким образом, потомок человека, обладающего прозвищем Костяной, со временем получил фамилию Костянная.