Фамилия Рыжей — яркий пример того, как прозвище по внешнему признаку намертво приросло к роду. В отличие от более распространённых Рыжовых или Рыжиковых, эта форма сохранила окончание, типичное для кратких прилагательных в именительном падеже: «рыжей» (то есть рыжий, рыжая). Такое оформление встречается реже и обычно указывает на южнорусские или украинские говоры, где притяжательность часто передавали через «-ий» без привычного «-ов».

Основа фамилии прозрачна: рыжий цвет волос. В крестьянской среде рыжина была заметной и нередко становилась причиной для прозвища — Рыжей, Рыжий, Рыжко. Отношение к рыжим на Руси было двойственным: с одной стороны, их считали хитрыми и «огненными», с другой — нередко приписывали им особую удачу или связь с нечистой силой. Однако в бытовой ономастике прозвище давали просто по самому яркому признаку, без мистического подтекста.

Модель образования здесь — субстантивация прилагательного. То есть прозвище «Рыжей» сразу стало фамилией без добавления суффиксов, что для русского языка нехарактерно: обычно говорят «Рыжов сын», а не просто «Рыжей». Поэтому версия, что фамилия могла закрепиться в форме родительного падежа от женского прозвища («жена Рыжего» → «Рыжей»), тоже имеет право на существование, хотя менее вероятна.

В документах фамилия встречается в основном на юге России и в восточных областях Украины, где аканье и окончание «-ей» вместо «-ий» — обычное дело. Если предки вашего Рыжего были из-под Курска, Воронежа или Харькова, то, скорее всего, фамилия и возникла в тех краях. Среди известных носителей фамилия не мелькает в первых рядах, что неудивительно: она редкая, и её история — это история простых людей, которых запомнили по цвету волос.

Однокоренные фамилии — Рыжов, Рыжиков, Рыжкин, Рыжаков — образованы по разным моделям, но все они восходят к тому же корню. Рыжей стоит особняком: это не «чей-то сын» и не «маленький рыжий», а сам человек, названный прямо и без посредников.