Фамилия Косьтюков — редкий случай, где написание уже подсказывает путь к разгадке. Буква «ь» перед «т» (Косьтюков, а не Костюков) почти наверняка говорит о происхождении от имени или прозвища, записанного через мягкий знак. В русской ономастике такое написание часто фиксирует южнорусское или украинское произношение, где «т» смягчалось. Основа здесь — Косьтюк, а суффикс -ов указывает на принадлежность: «чей?» — Косьтюков, то есть потомок человека по имени или прозвищу Косьтюк.

Само имя Косьтюк — это народная, разговорная форма канонического имени Константин. В быту имя дробилось на множество уменьшительных вариантов: Костя, Костюк, Кость, Коська. Форма Косьтюк (через мягкий знак) — фонетический вариант, характерный для говоров, где смягчение согласных перед гласными было сильнее. Сравните: в украинском языке «Кость» (Константин) и производные вроде Костюк встречаются часто, и мягкий знак там — не редкость. Таким образом, Косьтюков — это «сын Косьтюка», то есть потомок Константина.

Вторая, менее вероятная версия — связь с прозвищем от слова «кость». В старину костью могли назвать худого, костлявого человека, либо, наоборот, костореза, мастера по кости. Но в этом случае ожидалась бы форма Костюков (от Костюк) или Костин, а не Косьтюков с мягким знаком. Прозвища от «кости» обычно давали по внешности, и они редко образовывали суффикс -юк, который типичен именно для уменьшительных форм имён. Поэтому версия с Константином выглядит убедительнее.

Географически фамилия Косьтюков тяготеет к югу России и востоку Украины. В дореволюционных метрических книгах и ревизских сказках такая фамилия встречается в Курской, Воронежской, Харьковской губерниях — как раз в зоне смешения великорусских и малорусских говоров. В этих краях форма Косьтюк (через «ь») была обычным бытовым именем, а фамилия на -ов закрепилась за крестьянским и мещанским сословием. Дворянских родов с таким написанием практически нет — это фамилия простого люда, где имя отца записали так, как слышали.

Если коротко: Косьтюков — это потомок человека, которого в быту звали Косьтюк, то есть Константин. Редкое написание с мягким знаком — не ошибка, а живое свидетельство говора тех мест, где фамилия родилась.