Фамилия Костяной образована от личного прозвища и относится к распространенному типу русских фамилий. Фамилия Костяной образована от аналогичного прозвища. Оно ведет свое начало от прилагательного "костяной" - «сделанный из кости». Вероятно, прозвище относится к числу «профессиональных» именований, содержащих указание на деятельность основателя фамилии: он мог заниматься изготовлением и продажей различных изделий, поделок, амулетов из кости. Возможно также, что Костяным прозвали худого человека. Таким образом, потомок человека, обладающего прозвищем Костяной, со временем получил фамилию Костяной. О точном месте и времени возникновения фамилии Костяной в настоящее время говорить сложно, поскольку процесс формирования фамилий был достаточно длительным. Тем не менее, фамилия Костяной представляет собой замечательный памятник славянской письменности и культуры.