Фамилия Когтяк — редкая и звонкая, её происхождение почти наверняка связано с прозвищем, а не с прямым значением слова «коготь». Основа здесь не анатомическая, а метафорическая: в русских говорах «когтём» могли называть человека цепкого, хваткого, упрямого, того, кто «вцепится» в дело или в спор. Слово «когтяк» в значении «коготь» или «крюк» фиксируется в некоторых южнорусских и украинских диалектах, что сразу указывает на возможный регион возникновения фамилии — юг России или левобережная Украина.

Словообразовательная модель проста: суффикс -як (в старом написании -ак) образует существительные со значением носителя признака. В фамилиях этот суффикс часто закреплялся за прозвищами, превращая их в родовые имена без дополнительных прибавлений. Когтяк — это «тот, кто как коготь», то есть цепкий, хваткий. Модель типична для украинской и белорусской ономастики (сравните Головак, Бородак, Зубяк), а также встречается в южнорусских фамилиях, где -ак/-як было продуктивным.

Менее вероятная, но возможная версия — происхождение от тюркского имени или прозвища Когтяк, которое могло быть заимствовано через татарское или башкирское влияние. Однако в этом случае мы бы ожидали более широкого распространения фамилии в Поволжье или на Урале, а Когтяк — фамилия редкая, сконцентрированная скорее в Черноземье и на Кубани. Поэтому версия с русским диалектным корнем выглядит убедительнее.

В дореволюционных источниках фамилия почти не встречается: её нет в списках дворянских родов, нет в массовых ревизских сказках центральных губерний. Это говорит о том, что носители, скорее всего, были крестьянами или однодворцами южных окраин России. Фамилия могла возникнуть не раньше XVII–XVIII веков, когда прозвища стали активно закрепляться как наследственные. В современной России Когтяк остаётся крайне редкой — по данным открытых телефонных справочников, её носителей едва ли наберётся несколько десятков, в основном в Воронежской и Ростовской областях.

Таким образом, если вы носите фамилию Когтяк, ваши предки с большой долей вероятности жили на юге России и получили прозвище за цепкий, настойчивый характер. Никакой мистики с кошачьими когтями — только живая человеческая черта, превратившаяся в фамилию.