Фамилия Костяхин принадлежит к распространённому типу русских фамилий на -ин. Такие фамилии обычно образовывались от имени или прозвища отца с помощью притяжательного суффикса: чей? — Костяхин, то есть сын Костяхи.

Основа здесь — Костяха. Это уменьшительно-ласкательная или, скорее, обиходная форма крестильного имени Константин (от латинского constans — «стойкий, постоянный»). В русской народной среде полные имена редко употребляли в быту, зато охотно пользовались производными: Костя, Костуха, Костеха, Костюха, Костяха. Последняя форма — Костяха — звучит чуть грубовато, по-деревенски, и могла быть не только домашним именем, но и прозвищем. В говорах слово «костяха» иногда означало костлявого, худого человека или, наоборот, крепкого, «костистого» — отсюда и возможное прозвище по внешности.

Модель «имя на -а + суффикс -ин» — одна из древнейших в русской антропонимии. Она встречается в документах уже с XV века. Фамилия Костяхин, вероятно, оформилась в центральных или северных регионах России, где такие формы были особенно живучи. В южных и восточных областях чаще встречаются фамилии на -ов (Косяков, Костиков), так что Костяхин — примета северного или среднерусского происхождения.

Интересно, что в отличие от более частых фамилий Костин или Костюков, Костяхин сохранил редкую суффиксальную форму. Это не ошибка писаря, а живое словообразование: если был в ходу вариант Костяха, значит, и фамилия возникла естественно, без натяжек. Встречается она нечасто, и это хорошо — носители такой фамилии могут быть уверены, что их предки называли друг друга по-свойски, без официоза, и что фамилия не «канцелярская», а домашняя, от прямого общения.