Фамилия Коктеева образована от прозвища или нецерковного имени Коктей. В русском языке слово «коктей» зафиксировано в южных и западных говорах в значении «петух» — так называли драчливого, задиристого человека. В основе лежит звукоподражательное «кок» — подзывание кур, ср. «ко-ко-ко». Слово «коктей» бытовало и как имя-оберег: считалось, что если назвать ребёнка «петухом», злые духи не позарятся на такого крикливого и бойкого.

Фамилия принадлежит к самой распространённой модели русских фамилий — на -ев (вариант -ов после мягкой основы). Суффикс указывает на принадлежность: «чей?» — Коктеев, то есть сын или потомок Коктея. Исторически это типичная патронимическая фамилия: сначала Коктей, затем Коктеев сын, а позже фамилия закрепилась за родом.

Встречается фамилия преимущественно в Поволжье и на юге России. В переписных книгах XVII века упоминаются крестьяне и посадские люди с прозвищем Коктей — в частности, в Симбирском и Казанском уездах. Это подтверждает, что фамилия недворянская, а народная, крестьянская или мещанская.

Интересно, что фамилия Коктеева не связана с тюркскими корнями, хотя по звучанию её можно спутать с восточными. В отличие от фамилий типа Коктаев (от тюркского «кок» — синий, небесный), русская Коктеева — чисто славянская, от названия домашней птицы. В некоторых диалектах «коктей» означало также «болтун, пустомеля» — так могли прозвать говорливого человека.

Редкий вариант написания с двумя «т» — Коктеев — встречается реже, но не меняет этимологии. В современном русском языке фамилия сохранилась в основном в сельской местности, что указывает на её древнюю локальную привязку к конкретным сёлам и деревням.