Фамилия Рогиская звучит так, будто её носитель родом из места под названием Роги, Рогиск или Рогиска. И это самое вероятное объяснение. Перед нами типичная «географическая» фамилия, образованная по модели, распространённой в западнорусских и польских землях: название населённого пункта плюс суффикс -ск(ий). В отличие от фамилий на -ов/-ин, которые часто указывали на прямую принадлежность отцу (Петров — сын Петра), фамилии на -ский в массе своей закреплялись за дворянами и шляхтой по названию их поместья или вотчины. Поэтому Рогиская — это, скорее всего, «та, что из Рогов» или «из Рогиска».

Корень «рог» многозначен. Он мог указывать на форму рельефа (рог — мыс, изгиб реки), на промысел (рогатый скот, охота на туров) или на характер человека (упрямый, «бодливый»). В топонимике восточной Европы сёл с корнем «Рог-» десятки: Роги, Рогов, Рогиска, Рогозин. Фамилия Рогиская, скорее всего, женская форма от Рогиский. Мужской вариант мог звучать как Рогиский или, при польском влиянии, Рогиски. В русской традиции такие фамилии на -ский обычно дворянские, но не обязательно столбовые: мелкопоместная шляхта, однодворцы южных губерний и духовенство тоже активно пользовались этой моделью.

Обратите внимание на окончание -ая. В современном русском языке фамилии на -ская пишутся именно так, но в исторических документах до реформы орфографии встречались варианты Рогиская и Рогицкая (с цоканьем или латинизированным написанием). Если ваши предки записаны как «Рогицкая» — это та же фамилия, просто в старой или полонизированной записи.

Версия о происхождении от прозвища Рога (человек с большим носом или упрямец) с суффиксом -иск- (как «братишка», «городище») менее вероятна: суффикс -иск- в русских фамилиях редок и обычно указывает на увеличительное значение, а не на принадлежность. Так что основная гипотеза — топонимическая. Если вы найдёте на карте Беларуси, Украины или западной России небольшое село Роги или урочище Рогиск, считайте, что нашли возможную родину первого носителя фамилии Рогиский.