Фамилия Брилистая — редкий случай, когда в основе лежит не имя, не профессия и не географическое название, а прилагательное. В русской ономастике фамилии женского рода на -ая (вроде Толстая, Умная, Кудрявая) обычно закреплялись за женщинами в качестве прозвищ или давались по материнской линии, но в данном случае форма «Брилистая» могла сохраниться как исходная для целого рода.

Корень фамилии — «брилист-», который восходит к слову «брила» (или «бриль»). В южнорусских и украинских говорах «брила» — это губа, особенно толстая, отвислая. Отсюда «брилистый» — губан, толстогубый. Прозвище Брилистый могли дать человеку с заметной, крупной нижней губой. В русских диалектах (псковских, тверских) есть и другое значение: «брила» — край, обрез, кайма; «брилистый» в этом смысле — с широкой оторочкой или неровным краем, что могло относиться к одежде или внешности.

Модель образования проста: основа прилагательного «брилист-» плюс окончание -ая. Такие фамилии чаще встречались на юге России, в Белгородской, Воронежской, Курской областях, а также в украинских землях, где диалектная лексика была особенно живуча. Фамилий с корнем «брил-» в русском ономастиконе немного: Брилов, Брилин, Бриль. Брилистая стоит особняком — она не патронимическая (не от имени отца) и не топонимическая, а чисто описательная, что указывает на прямое прозвище, данное по внешнему признаку.

Версия о связи с драгоценным камнем «бриллиант» маловероятна: слово «бриллиант» пришло в русский язык поздно (XVIII век), а суффикс -ист- в фамилиях указывает на признак, а не на материал. Скорее всего, предки носителей фамилии Брилистая были крестьянами или казаками, а прозвище закрепилось за семьей из-за яркой внешности одного из ее членов.