Фамилия Рыцай — редкая и звучит не по-русски. В ней нет привычных суффиксов -ов, -ин, -ский, которые указывают на принадлежность («чей?»). Окончание -ай скорее отсылает к украинской или белорусской модели образования прозвищ и фамилий. В этих языках суффикс -ай часто придаёт слову оттенок действия или свойства: «гуляй», «стригай», «крутай». Соответственно, Рыцай могло быть прозвищем человека, который что-то делал — или делал это характерным образом.

Самая прямая версия: основа «рыц-» восходит к слову «рыцарь». В польском языке «rycerz» и в украинском «лицар» означают то же самое. Если предок был конным воином, служилым человеком или просто получил прозвище за благородную осанку или воинственный нрав, его могли назвать Рыцаем. В пользу этой версии говорит и географическая привязка: фамилия встречается в западных регионах — в Беларуси, на Украине, в Смоленской и Брянской областях России, где исторически было сильное польское влияние.

Есть и более прозаичная версия. В некоторых говорах «рыцать» означало «рыться», «копаться», «искать». Человека, который постоянно что-то перебирал, искал или копался в земле, могли в шутку прозвать Рыцаем. Тогда это прозвище по действию, а не по сословию.

Третья, менее вероятная версия — связь с личным именем. В старых польских документах встречается имя Ryczaj, которое могло быть вариантом латинского имени Richard (Ричард) через немецкое посредство. Но это скорее гипотеза, чем доказанный факт.

Таким образом, фамилия Рыцай — скорее всего, украинское или белорусское прозвище, образованное от слова «рыцарь». Носитель фамилии мог быть потомком служилого человека или просто получить меткое прозвище за воинственный вид.