Фамилия Кустаев образована от прозвища или нецерковного имени Кустай. В основе этого имени лежит тюркское слово «кустай» — так в некоторых тюркских языках (например, в казахском и башкирском) называют птицу, чаще всего сокола или ястреба. Прозвище Кустай могли дать человеку за сходство с этой птицей — за острый взгляд, стремительность, охотничью хватку или даже за профессию сокольничего. Таким образом, фамилия Кустаев — это русская фамилия тюркского происхождения, оформленная типичным русским патронимическим суффиксом -ев, который указывает на принадлежность: «сын Кустая».

Словообразовательная модель здесь простая: основа Кустай + суффикс -ев. Суффикс -ев, а не -ов, стоит потому, что основа оканчивается на мягкий согласный (й). Такое окончание характерно для фамилий, возникших в среде, где тюркские имена и прозвища были обычным делом, — в Поволжье, на Урале, в южнорусских степях.

Есть и другая, менее вероятная версия: связь с русским диалектным словом «куст» — в значении «заросли», «кустарник». В этом случае Кустаем могли прозвать человека, жившего у кустов или в лесистой местности, либо того, кто был нелюдимым, «кустистым». Однако тюркская версия убедительнее: фамилии с окончанием -аев (как Кустаев, Ахметаев, Батаев) в русском ономастиконе почти всегда восходят к тюркским личным именам.

Фамилия Кустаев не относится к числу распространённых дворянских или старых московских фамилий. Она бытует в основном в регионах, где исторически шло смешение русского и тюркского населения: в Оренбургской, Челябинской, Самарской областях, в Татарстане и Башкортостане. Встречается и у казахов, и у башкир, и у русских, что неудивительно — однофамильцы могли появиться независимо друг от друга в разных этнических группах.

Сравните с однокоренными фамилиями: Кустаев — от Кустай; Кустов — от «куст»; Кустарев — от прозвища Кустарь (мастер-одиночка). Каждая из них идёт от разных основ, и путать их не стоит. Редкий суффикс -аев в русских фамилиях почти всегда сигнализирует о тюркском следе, и Кустаев — типичный пример такого заимствования.