Фамилия Когтенёв — одна из тех, где прозвище предка напрямую связано с его характером, внешностью или родом занятий. В её основе лежит слово «когтень» — так в старину в русских говорах называли хищную птицу с мощными когтями, чаще всего ястреба или сокола. Человек, получивший такое прозвище, мог быть цепким, хватким, упрямым или обладать сильными руками. В некоторых диалектах «когтень» означало также «коготь» как часть тела, что усиливало прозвищную образность: предка могли дразнить за цепкость или, наоборот, за скрюченные пальцы.

Фамилия образована по стандартной для восточнославянского ономастикона модели: к основе «Когтен-» добавили суффикс принадлежности «-ёв». Изначально это было притяжательное прилагательное, отвечавшее на вопрос «чей сын?» — сын Когтеня. Со временем оно закрепилось как наследственное родовое имя. Аналогичным образом возникли фамилии Когтев, Коготков, Когтин — все они восходят к тем же корням, но Когтенёв выделяется более редким суффиксом, что указывает на локальный или диалектный вариант прозвища.

С точки зрения географии, фамилия Когтенёв встречается преимущественно в центральных и северных областях России — в костромских, ярославских, вологодских землях. Это не случайно: в этих краях был развит соколиный и ястребиный промысел, а прозвища, связанные с птицами, давали метким охотникам или людям с острым зрением. Встречаются единичные случаи бытования фамилии у староверов, что может указывать на сохранение архаичного говора.

Версия о происхождении от тюркского «коктен» (синий, небесный) или от финно-угорского корня не подтверждается ни данными словарей (например, в работе Б. Унбегауна «Русские фамилии» подобные варианты не зафиксированы), ни реальным ареалом фамилии. Правдоподобнее всего видеть здесь чисто славянскую основу с прозвищным значением — тем более что в «Ономастиконе» С. Веселовского встречаются схожие прозвища Коготь и Коготок, от которых образованы фамилии Когтевы и Коготковы.

Таким образом, предок носителя фамилии Когтенёв — человек, которого в XV–XVII веках прозвали Когтенём за цепкость, силу или связь с ловчими птицами. Сама фамилия — редкий пример, сохранивший диалектную форму, которая не перешла в более частотный вариант «Когтев».