Фамилия Первицкая звучит не по-русски, и это первая зацепка. Типичный русский суффикс -ск- указывает на происхождение от географического названия, но сама основа «Первиц-» явно не славянская. Скорее всего, перед нами фамилия польского или белорусского корня, адаптированная к русской модели женского рода (Первицкая — форма жены или дочери Первицкого).

В польском языке есть слово «pierw» (первый) или однокоренные «pierwiastek» (элемент), «pierwotny» (первичный). Отсюда могло возникнуть прозвище Первиц — «первый», «первенец» или «тот, кто делает что-то впервые». Такие прозвища давали старшему сыну, зачинателю дела или человеку, который первым поселился на новом месте. На базе этого прозвища и образовалась фамилия Первицкий (через характерный польский суффикс -иц-), а Первицкая — её женский вариант.

Вторая, менее вероятная версия — связь с топонимом. В Польше и Западной Беларуси встречаются деревни с корнем «Перва» или «Первица» (например, Перва-Майска). Если предок был выходцем из такого места, его могли записать как «Первицкий» — «тот, кто из Первиц». Однако известных крупных населённых пунктов с таким названием нет, поэтому версия с прозвищем выглядит правдоподобнее.

По сословному составу носители фамилии Первицкий/Первицкая в Российской империи относились в основном к мелкой шляхте или мещанам западных губерний (Виленская, Гродненская, Минская). Встречается она и среди православного духовенства — иногда фамилии на -ский давали семинаристам по церковному календарю или по месту службы. Но прямых документальных свидетельств, что Первицкая связана именно с церковной средой, нет.

Интересная деталь: фамилия Первицкая почти не встречается в центральной России. Её ареал — пограничье польского и восточнославянского мира. Если ваши предки носили эту фамилию, скорее всего, они жили на территории современной Беларуси, Польши или западной Украины, и в XIX веке фамилия могла писаться через «и» или «ы» (Первицкая или Первыцкая) в зависимости от местной канцелярии.