Фамилия Брусенкая написана не по привычной норме. В русской традиции фамилии на -ский/-цкий склоняются и пишутся через «ц» (Брусецкий, Брусенцкий), а окончание -ая указывает на женскую форму. Мужской вариант той же фамилии — Брусенкий, но он встречается редко и тоже выглядит нетипично. Скорее всего, перед нами нестандартная запись фамилии Брусенцев или Брусенцов, где суффикс -ск- появился при оформлении по польской или украинской модели, а конечное -ая закрепилось в женском роде.

Основа фамилии — «брус» или «брусен». В русских говорах «брус» — это и деревянный брус, и клюква (северное название), и даже вид рыбы. Но самая вероятная версия — прозвище или именование по месту жительства: Брусенка, Брусенки — название деревни или урочища, где добывали или обрабатывали брус (камень, лес). Фамилии на -ский/-цкий в массе своей указывали на принадлежность к местности, откуда человек родом. Значит, предок носителя фамилии мог быть выходцем из села Брусенки или Брусеное.

Вторая версия — профессиональная. Брусеной или брусочник — это ремесленник, который изготавливал точильные бруски или обрабатывал камень. В старину брусья использовали в строительстве, а также для заточки инструментов. Прозвище Брусеной могло закрепиться за человеком именно по такому занятию, а затем перейти в фамилию через суффикс -ск-.

Спорных гипотез немного. Связь с фамилией Брусникин (от ягоды) маловероятна: у них разная словообразовательная модель. Также не стоит путать с Брусенцовым — более частым вариантом, который образован напрямую от прозвища Брусенец (житель Брусенок или человек с брусом). Брусенкая — форма редкая, её носители, скорее всего, из западных или южных областей России, где фамилии на -ский были особенно популярны в XVII–XIX веках среди духовенства и мещан.

Таким образом, фамилия Брусенкая — это женская форма редкого варианта, указывающая на географическое или профессиональное происхождение предка, связанное с брусом.