Фамилия Брычаев образована от прозвища или нецерковного имени Брыч, а тот, в свою очередь, восходит к глаголу «брычать». В русских говорах это слово имело два основных значения. Первое — «звучать, звенеть, издавать резкий дребезжащий звук»; так могли прозвать либо говорливого, крикливого человека, либо того, кто работал с металлом — кузнеца или бондаря, чей инструмент постоянно звенел. Второе значение — «брыкаться, лягаться» (о животном) или, в переносном смысле, «упрямиться, капризничать». В этом случае прозвище Брыч закреплялось за строптивым, неуживчивым человеком, которого трудно было переубедить.

Модель образования типична для русских фамилий: суффикс -ев присоединялся к основе на мягкий или шипящий согласный (Брыч + ев), указывая на принадлежность «сын Брыча» или «потомок Брыча». Форма без суффикса -ов (а именно -ев) подсказывает, что исходное прозвище оканчивалось на шипящий, что и подтверждается словом «брыч». Встречаются и однокоренные фамилии — Брычков, Брычкин, где основа та же, но суффиксы иные, что говорит о разных диалектных вариантах одного прозвища.

Географически фамилия Брычаев тяготеет к южнорусским и поволжским областям. В частности, она фиксируется в старых переписях Тамбовской и Рязанской губерний, где «брычать» в значении «звенеть» или «брыкаться» было в ходу. Это не слишком распространённая фамилия, что делает её хорошим маркером для генеалогического поиска: если предки носили фамилию Брычаев, скорее всего, они происходили из среды крестьян или ремесленников центральной России.

С точки зрения ономастики, фамилия Брычаев интересна тем, что её основа не имеет однозначного толкования. Спор между «звуковой» и «поведенческой» версией не разрешён окончательно, и обе имеют право на существование. В словаре русских фамилий Б. Унбегауна модель на -ев с основой на шипящий описана как типичная для прозвищ, но конкретный разбор «брыч» там не выделен — это редкий случай, когда приходится опираться на диалектную лексику.