Фамилия Брыляев образована от прозвища Брыль, а оно, скорее всего, связано с диалектным словом «брыль» — так в южнорусских и белорусских говорах называли широкополую соломенную шляпу, а также навес, козырёк. В «Толковом словаре» Владимира Даля «брыль» — это «шляпа, шапка с полями, особ. из войлока или валяной шерсти». Человека, который постоянно носил такую шляпу, либо торговал ими, либо сам их плел, и могли прозвать Брылем. Прозвища по головным уборам (Шапка, Колпак, Картуз) встречаются в русской антропонимии нередко — они цепко прирастали к человеку по самой заметной детали одежды.

Суффикс -ев указывает на типичную восточнославянскую патронимическую модель: Брыляев — это «чей?» — сын Брыля. Форма с мягким знаком (Брыль → Брыля) дала суффикс -ев, а не -ов, что характерно для основ, оканчивающихся на мягкий согласный. Фамилия могла возникнуть в среде крестьян или посадских людей, где прозвища были обиходными и часто заменяли фамилии до их официального закрепления в XIX веке.

Существует и менее вероятная версия, связывающая основу с глаголом «брылять» (так в некоторых говорах — «шататься, слоняться без дела»). Однако прозвищное значение «шляпник» или «носящий брыль» выглядит надёжнее, потому что слово «брыль» в значении «шляпа» широко зафиксировано в диалектах, а глагол «брылять» — редок и имеет неясную географию. В ономастическом словаре Б. Унбегауна фамилии на -ев от прозвищ по предметам одежды рассматриваются как одна из продуктивных моделей, и Брыляев органично вписывается в этот ряд.

Географически фамилия тяготеет к югу России и к Белоруссии: в переписях XIX века носители фамилии встречаются в Курской, Воронежской губерниях, а также на Смоленщине. Встречается вариант написания Брылёв — он мог возникнуть при утрате мягкости конечного согласного основы или под влиянием «окающего» произношения. Но форма Брыляев сохранила исходный мягкий звук, что делает её более архаичной и диалектно точной.