Фамилия Костюхтна — редкий случай, когда написание почти наверняка искажено. В русских фамилиях нет суффикса «-тн-» в такой огласовке, а основа «костюхт-» не встречается ни в одном известном ономастическом словаре. Скорее всего, перед нами либо опечатка, либо результат поздней записи «на слух» в канцелярии. Самая вероятная версия: правильная форма — Костюхин (от прозвища Костюха, уменьшительного от Костя, Константин), а буква «т» попала случайно — например, под влиянием фамилий вроде Костюхтин или Костюхтов.

Если же отбросить ошибку и предположить, что «Костюхтна» — это женская форма фамилии (в русской традиции у женщин фамилии на -а не склоняются по мужскому роду, но в некоторых регионах, особенно на юге, фиксировали и женские варианты), то мужской вариант мог бы быть Костюхтин. Тогда разбор прост: основа «Костюхт-» образована от имени Костюхта — просторечной, диалектной формы имени Константин (ср. Костюха, Костюша). Суффикс «-ин» указывает на принадлежность: «чей?» — Костюхтин, то есть сын Костюхты. Такая модель типична для фамилий крестьян и мещан центральной России и Поволжья, где отчество в форме притяжательного прилагательного становилось наследственным.

Географически фамилии с корнем «Кост-» и суффиксом «-ин» массово встречаются в Тверской, Ярославской, Костромской губерниях, но конкретно Костюхтины — единичные случаи. В дореволюционных списках и переписях эта фамилия почти не фиксируется, что подтверждает её редкость и возможную описочную природу.

Итог: если вы ищете свои корни, начните с проверки архивных записей — велика вероятность, что в метрических книгах предки записаны как Костюхины или Костюхтины. Сама же форма «Костюхтна» — скорее всего, канцелярский курьёз, который, впрочем, не мешает составить о фамилии ясное представление: она от имени Константин, в его народном, «деревенском» варианте.