Фамилия Круглыя — редкий пример, где окончание выдает не географию, а грамматическую историю. В русском языке фамилии на -ых/-их (Толстых, Черных, Круглых) традиционно закреплялись в родительном или предложном падеже множественного числа и означали «из семьи таких-то»: Круглых — «из семьи Круглых». Но форма Круглыя — это не опечатка и не вариант. Это церковнославянское или старое книжное окончание родительного падежа единственного числа женского рода. В дореволюционных документах так могли записать женщину: «Круглая» превращалось в «Круглыя» по аналогии с «святой Софии» или «девицы Марьи». Если фамилия досталась мужчине и пишется именно так — Круглыя, — скорее всего, перед нами искусственная, семинарская или канцелярская форма, возникшая при переписи, когда писарь намеренно архаизировал окончание.

Основа фамилии — прилагательное «круглый». Прозвище Круглый давали человеку с полной, округлой фигурой, реже — тому, кто жил в круглом доме, владел круглым полем или имел характер «без углов», покладистый. В северных и центральных губерниях России фамилии на -ых/-их (Круглых) встречались чаще, чем на юге, но форма Круглыя — штучный товар, почти всегда результат письменной фиксации. В метрических книгах XIX века можно найти записи вроде «вдова Евдокия Круглыя» — это именно родительный падеж при указании принадлежности. Со временем окончание застыло и стало восприниматься как часть фамилии, передаваясь по наследству.

Словообразовательная модель здесь простая, но с оговоркой: если фамилия мужская, то суффикс -ыя — не живой русский суффикс, а грамматический рудимент. В словаре Б. Унбегауна такие формы упоминаются как «окаменевшие падежные окончания», характерные для фамилий духовного сословия и купечества, где грамотность писарей была выше среднего. Сравните с фамилией Благовещенская — та же книжная основа, но с другим суффиксом. Круглыя — не отчество, не прозвище в чистом виде, а скорее «запись прозвища в грамматической упаковке».

Встречаемость фамилии крайне низкая. В современных базах данных (например, в реестре ЗАГС или телефонных справочниках) Круглыя — единичные случаи, в основном на северо-западе России и в Беларуси. Если ваш предок носил эту фамилию, скорее всего, он был либо выходцем из духовенства, либо его фамилию записал писарь, привыкший к церковнославянским оборотам. Никакой связи с украинской или польской традицией (где «круглый» звучало бы иначе) здесь нет — это чисто русская грамматическая аномалия, сохранившаяся благодаря бумаге.