Фамилия Быковсая — редкий и, скорее всего, искажённый вариант написания фамилии Быковская. В русской ономастике суффикс -ск- указывает на происхождение от географического названия (села, города, урочища) или, реже, на принадлежность к знатному роду. Встречающееся написание через «всая» вместо «вская» — это, вероятнее всего, результат диалектного произношения (аканье и редукция согласных) или описки в документах XIX–XX веков, когда фамилию записывали на слух.

Основа фамилии — топоним Быково. В России и сопредельных странах десятки сёл и деревень с таким названием. Происхождение названия простое: от нецерковного имени или прозвища Бык. В древнерусской традиции «быком» могли назвать крепкого, упрямого или крупного человека. Соответственно, Быковские — это «те, кто родом из Быкова». Фамилия указывает на место жительства предка, а не на его занятие скотоводством, хотя в основе лежит одно слово.

По социальному составу фамилия Быковская (в правильном написании) не была сугубо дворянской, хотя встречается и среди старых польских шляхетских родов (герба Помян, например). В крестьянской и мещанской среде её давали переселенцам из деревни Быково, чтобы отличать их от местных жителей. Если ваш предок носил фамилию Быковсая, стоит искать его корни в документах, где она записана как Быковская — скорее всего, это крестьяне или однодворцы южных и центральных губерний России, где путаница с суффиксами при записи была особенно частой.

Сравните с однокоренными фамилиями: Быков (от прозвища), Быковец (житель Быкова), Быковский (стандартная топонимическая форма). Ваш вариант стоит в ряду тех, где народная этимология или почтовые ошибки закрепили необычное написание.