Фамилия Вербицая — это женская форма фамилии Вербицкий, а та, в свою очередь, образована от географического названия. Основа здесь — топоним Вербица (или Вербице, Вербичи). Таких сёл и деревень немало в Беларуси, Украине и Польше. Название происходит от слова «верба» — ива, ветла. Поселение, скорее всего, стояло в низине, у воды, среди зарослей этого дерева.

Суффикс -иц- в основе (Вербиц-) указывает на принадлежность: «из Вербицы». А окончание -ая в женском варианте — типичная форма прилагательного, отвечающего на вопрос «чья?» или «из каких?». В XIX веке, когда фамилии закреплялись официально, женщину могли записать как Вербицкая (или, в просторечии, Вербицая), подразумевая «жена или дочь Вербицкого».

Интересно, что написание «Вербицая» (через «а») — это не ошибка, а фонетическое отражение произношения. В русском языке после шипящих и «ц» под ударением пишется «о», а в безударном положении звук редуцируется, и на письме его могли передать как «а». Поэтому в документах встречаются оба варианта: Вербицкая (более книжный, «правильный») и Вербицая (народный, бытовой). Второй вариант — живая запись того, как фамилия звучала в речи крестьян или мещан западных губерний Российской империи.

Сословно предки Вербицких (и, соответственно, Вербицых) — чаще всего крестьяне или шляхта. В Речи Посполитой фамилии на -ский были распространены среди землевладельцев, но потом, при разделах Польши, их получили и многие крестьяне, которых записывали по названию деревни, где они жили. Так что носительница фамилии Вербицая может происходить как из обедневшего шляхетского рода, так и из семьи крепостных крестьян из села Вербица.

Сравнение с однокоренными фамилиями — Вербовский, Вербицкий, Вербенко — показывает, что все они вышли из одного гнезда, но разошлись по разным языковым традициям. Ваш вариант, с «а» на конце, — редкий и очень локальный, привязанный к конкретной манере письма в XIX — начале XX века.