Фамилия Устенова — женская форма фамилии Устенов, и её происхождение стоит искать в основе «Устен». Это довольно редкая фамилия, не входящая в сотни самых распространённых, и её разбор требует внимания к деталям словообразования.

Скорее всего, в основе лежит имя или прозвище Устен, которое является краткой формой от крестильного имени Иустин (через форму Устин). Иустин — латинского происхождения, означает «справедливый». В русском языке имя Устин было распространено, и от него образовано множество фамилий: Устинов, Устинкин, Устинцев. Вариант Устенов — результат редукции безударной гласной: в живой речи «Устин» часто произносилось как «Устен», и на письме это закрепилось. Таким образом, Устенов — это вариант фамилии Устинов, возникший из-за особенностей произношения в конкретной местности.

Менее вероятная, но возможная версия — связь с тюркским корнем «устен», что в некоторых языках (например, в карачаево-балкарском) означает «аул» или «селение». Однако для русской фамилии с суффиксом -ов такое объяснение нехарактерно: фамилии от тюркских основ обычно образуются по той же модели, но здесь нет следов тюркского прозвища, которое бы перешло в фамилию. Версия с именем Устин выглядит убедительнее.

Суффикс -ов указывает на принадлежность: Устенов — «сын Устена». Такая модель типична для русских фамилий, возникших в XVI–XVII веках среди крестьян и посадских людей. Сословная принадлежность носителей фамилии могла быть разной, но чаще всего такие фамилии встречались у бывших крепостных крестьян центральной России, где имя Устин было популярно. Географически фамилия Устенова сегодня встречается в России и Казахстане, но её корни, вероятно, лежат в южнорусских или украинских говорах, где редукция гласных особенно сильна.

Если сравнивать с однокоренными, то Устенов стоит в одном ряду с Устинковым, Устюговым (от имени Устин через форму Устюг) и просто Устиновым. Разница только в произносительном варианте, который со временем стал самостоятельной фамилией.