Фамилия Устеникова — женская форма фамилии Устеников, а та, в свою очередь, образована от личного имени или прозвища Устеня. Основа здесь — древнерусское нецерковное имя Устен, которое является сокращённой формой от имени Устин (каноническое Иустин, от латинского justus — «справедливый»). В русской народной традиции такие усечения, как Устеня или Устя, были обычным делом: от полного имени отбрасывали часть, добавляли суффикс -ен(я) или -я, и получалось обиходное прозвище.

Суффикс -ов в основе фамилии указывает на принадлежность: Устеников — буквально «сын Устени». Это типичная патронимическая модель для центральной и северной России, где фамилии на -ов и -ин закрепились в XVI–XVII веках сначала среди служилых людей и крестьян, а затем повсеместно. Фамилия редкая, не массовая, что говорит о локальном бытовании: вероятно, предки Устениковых жили в конкретной волости или селе, где имя Устен было в ходу.

Интересно, что в некоторых говорах слово «устень» могло означать «устье» или «край», но это скорее народная этимология: для фамилии первично именно имя. Встречаются варианты написания Устеников/Устеникова, но без буквы «ё» — ударение, скорее всего, падает на второй слог: Усте́ников. Социальный контекст: носители фамилии в дореволюционных записях чаще всего числились крестьянами или мещанами, что подтверждает её происхождение из простонародной среды.

Если искать параллели, то однокоренные фамилии — Устинов, Устюжанинов, Устенко — все они восходят к тому же корню, но с разными суффиксами. Устеникова стоит в этом ряду как пример редкой формы с уменьшительным суффиксом -ен, который сохранил исходное прозвище почти без изменений.