Фамилия Костенюков образована по одной из самых распространённых в русском языке моделей: от прозвища или имени через суффикс -юк и далее через притяжательный суффикс -ов. Суффикс -юк (как и -ук, -чук) в восточнославянских фамилиях чаще всего указывает на «сына» или «потомка» человека, названного в основе. В данном случае основа — Костеня. Это могла быть уменьшительная или прозвищная форма от крестильного имени Константин (в просторечии — Костя, Костенька, Костеня). Так что первый носитель фамилии, скорее всего, был сыном некоего Костени.

Однако у Костенюкова есть одна особенность, которая выделяет его среди сотен фамилий на -юков. В русской ономастике фамилии с суффиксом -юк характерны прежде всего для украинского и белорусского ареала (Костенюк, Коваленко, Шевчук). А вот наращение -ов в конце — это уже чисто русское «обрусение» фамилии. То есть исходная фамилия звучала как Костенюк, а когда носитель переселился в великорусские земли или его потомки попали в русскую канцелярию, к ней добавили типичный русский суффикс принадлежности -ов. Так из Костенюка получился Костенюков. Это нередкий случай: фамилии вроде Бондаренков, Гриценков, Коваленков появлялись именно на стыке украинской и русской традиций, часто в южных и центральных губерниях России.

Само прозвище Костеня могло иметь и нецерковное происхождение. В русских говорах «костеня» — это человек крепкий, костистый, либо, наоборот, костлявый и худой. В старину прозвища по внешности давали очень часто, и такое объяснение ничуть не менее вероятно, чем связь с Константином.

Встречаемость фамилии Костенюков сегодня невысока, она редкая. Основные очаги — Ростовская область, Краснодарский край, а также некоторые районы Украины (где фамилия бытует в исходной форме Костенюк). Сословного барьера у неё не было: её могли носить и крестьяне, и казаки, и мещане. Знатных родов с такой фамилией в дворянских родословных книгах не зафиксировано, что типично для поздних патронимических фамилий, оформленных уже в XVIII–XIX веках.