Фамилия Кустливая — редкий пример, когда фамилия образована не от имени или профессии, а от прилагательного, описывающего внешность или характер. Её основа — слово «кустливый», которое в русских говорах имело два основных значения. Первое — «покрытый кустами», «заросший кустарником» (о местности или о человеке с густыми, торчащими волосами). Второе, переносное — «обидчивый», «вспыльчивый» (человек, который «встаёт дыбом», как куст от ветра). Оба значения могли лечь в прозвище, которое затем закрепилось как фамилия.

Словообразовательная модель здесь нестандартная. Большинство русских фамилий образуется с помощью суффиксов -ов/-ев, -ин или -ский. Фамилия Кустливая сохранила полную форму прилагательного в женском роде. Это характерно для фамилий, возникших в южнорусских и украинских регионах, где была распространена модель «отцовское прозвище → фамилия в форме прилагательного». В таком случае Кустливая — это буквально «жена или дочь Кустливого». Но со временем форма закрепилась и как наследственная фамилия для всех членов семьи, независимо от пола.

Географически фамилия тяготеет к югу России и украинским землям. Встречается она редко, и это объяснимо: слово «кустливый» в значении «обидчивый» — диалектное, не вошедшее в литературный язык. В центральных и северных губерниях такое прозвище дали бы скорее по другому признаку. Сравните с однокоренными фамилиями: Кустов, Кустиков — они образованы от существительного «куст» и встречаются гораздо чаще. Кустливая же стоит особняком: её основа — не предмет, а качество.

Споров вокруг происхождения почти нет. Единственная альтернативная версия — связь с украинским словом «куст» в значении «клок» или «пучок» (например, куст травы). Но и в этом случае значение остаётся тем же: прозвище давали либо по густой шевелюре, либо по неровному, «кустистому» характеру.

Фамилия Кустливая — пример того, как диалектное слово, почти забытое в современном языке, сохранилось в виде родового имени. Носитель такой фамилии может с высокой вероятностью проследить корни в южнорусских или украинских областях, где в быту ещё в XIX веке могли сказать про обидчивого соседа: «Ну и кустливый же ты, братец».