Фамилия Устеко — редкий случай, когда интуитивное прочтение сбивает с толку. На слух она кажется украинской или польской из-за окончания на -ко, но корень указывает совсем в другую сторону. В русском языке фамилии на -ко обычно образуются от имён, прозвищ или профессий (Шевченко, Коваленко), причём ударение почти всегда падает на предпоследний слог. Однако в фамилии Устеко логичнее видеть основу «уст-», которая отсылает нас к южнославянским языкам, прежде всего к сербскому, хорватскому или словенскому.

Вероятнее всего, фамилия происходит от сербского или хорватского слова «уста» — рот, губы. В диалектах южных славян существовало прозвище «Устеко» для человека с большим ртом, говорливого или, наоборот, того, кто постоянно молчит (по принципу контраста). Суффикс -еко здесь не типичный уменьшительный, а скорее формант, придающий прозвищу характерную звуковую форму, как в фамилиях Србек, Брлек. Модель образования проста: прозвище Устеко — основа — со временем закрепилось как фамилия без дополнительных суффиксов, что характерно для сербских фамилий (ср. Павлович — Павлович, но и просто Павло, Раде).

Менее вероятная, но возможная версия — связь с топонимом. В Словении существует небольшое поселение Усте (Uste), и фамилия могла возникнуть как указание на выходца оттуда: «Устеко» — «тот, кто из Усте». Однако эта гипотеза слабее, так как топонимические фамилии в этой среде чаще оформлялись через суффикс -ич.

На территории Российской империи фамилия Устеко встречается единично. В метрических книгах и ревизских сказках XIX века она не фиксируется в массовом порядке, что подтверждает её невосточнославянское происхождение. Носители Устеко, скорее всего, потомки переселенцев из Балканского региона — сербов, хорватов или словенцев, которые оказались в России или на Украине в результате миграций XVIII–XIX веков. Сословная принадлежность могла быть разной: от крестьян до купцов, но без архивных изысканий по конкретной ветви сказать точнее нельзя. Фамилия осталась редкой и по сей день, сохранив яркую южнославянскую окраску.