Фамилия Кустяев — яркий пример того, как прозвище, данное человеку за характерную черту внешности или поведения, закрепилось в родовом имени. В её основе лежит слово «куст» или производное от него «кустяй». В русских говорах «кустяем» могли назвать коренастого, широкоплечего человека с крепкой фигурой — словно «кустистого», плотно сбитого. Есть и вторая, более прозаичная версия: в некоторых диалектах так говорили о нелюдимом, замкнутом человеке, который «сидит кустом» — то есть держится особняком, нелюдимо.

Модель образования проста: суффикс -ев указывает на принадлежность, то есть Кустяев — буквально «сын Кустяя». Это типичная для русских фамилий патронимическая форма, возникшая в XVI–XVII веках, когда прозвища отцов переходили к детям сначала в виде отчеств, а затем и в виде фамилий. Интересно, что суффикс -яй в основе (Кустяй) — характерный для северных и северо-восточных русских говоров, где так образовывали обиходные имена: Коряй, Бодряй, Кипряй. Поэтому географически фамилия Кустяев тяготеет к Вологодчине, Архангельской области, Вятке.

Встречается и редкое, альтернативное объяснение: от тюркского имени или прозвища, где корень «куст» мог означать «птица» или «сила». Но эта версия не имеет серьёзной опоры в ономастических источниках — для русской фамилии гораздо естественнее славянская основа с прозрачной внутренней формой. В словаре Б. Унбегауна фамилия не выделяется как нетипичная, а относится к группе прозвищных образований от названий растений и предметов.

Правописание фамилии устойчиво: Кустяев, с буквой «я» в корне и окончанием -ев. Вариант «Кустаев» (через «а») встречается, но реже и, скорее всего, является результатом упрощения произношения в безударном положении. В любом случае, предки современных Кустяевых были крестьянами или посадскими людьми — фамилия не относится к дворянским, не фиксируется в родословных книгах. Её носитель мог быть и коренастым плотником, и молчаливым пахарем, и просто человеком с цепкой, «кустистой» натурой.