Фамилия Протоцкая — вариант женского рода, мужская форма — Протоцкий. Это типичная «географическая» фамилия, образованная по модели, распространённой в западнорусских, украинских и польских землях: основа + суффикс -цк-/-ск- и окончание, указывающее на принадлежность к местности.

Корень здесь — «проток» (или «протока»). В славянских языках так называют ответвление реки, рукав, канал, соединяющий два водоёма. Человек, получивший прозвище Проток, мог жить у такой протоки, владеть землёй вдоль неё или переправлять через неё. Фамилия Протоцкий/Протоцкая буквально значит «с протока», «с тех мест, что у протоки». В польском языке слово «przodek» означает «предок», но для данной фамилии эта версия слаба: фонетически и суффиксально она расходится с русской и украинской традицией.

Суффикс -цк- указывает на то, что фамилия оформилась не как прозвище сына (как Иванов), а как прозвание по месту жительства или по названию урочища. Такие фамилии чаще всего носили мещане, казаки или мелкопоместные дворяне, чьи предки получили прозвище от конкретного географического объекта, а не от имени или профессии. Встречается фамилия в основном на территории Украины и юга России — в бассейнах Днепра, Дона, где много речных рукавов и проток. В польских метриках также фиксировалась форма Protocki, что подтверждает её связь с водными объектами.

Если ваши предки носили эту фамилию, они с высокой вероятностью жили на реке или озере, где был заметный проток, и именно этот природный ориентир закрепился в родовом имени.