Фамилия Рыжой — один из тех случаев, когда ударение меняет всё. Если читать её как Рыжо́й, это прилагательное в мужском роде, застывшая форма родительного падежа: «(чей?) Рыжого». Если же ударение падает на первый слог — Ры́жой — перед нами скорее женский вариант фамилии, образованной от той же основы. В любом случае корень один: «рыжий», то есть человек с рыжими волосами или рыжеватой бородой. На Руси прозвище Рыжий давали не только за цвет волос, но и за хитрый нрав или даже за принадлежность к «рыжей» масти лошади — в говорах так называли гнедую или буланую масть.

С точки зрения словообразования фамилия Рыжой стоит особняком. В русской ономастике типичны суффиксы -ов/-ев (Рыжов) или -ин (Рыжин), реже — -ский. А форма на -ой — это архаичное окончание прилагательного, которое в современном русском языке превратилось в -ый (сравните: «молодой» — «молодой» и сейчас, а «рыжой» — устаревшее произношение). Такие фамилии чаще встречаются на юге России и в Украине, где аканье и оканье сохраняли старые окончания. Например, в курских и воронежских говорах «рыжой» могло звучать естественно, а при переписи населения это слово записывали так, как слышали.

У фамилии есть и редкая версия, связанная с прозвищем Рыжой от диалектного «рыжой» — в некоторых областях так называли не только человека, но и животное с рыжей шерстью, например, лису или собаку. В таком случае прозвище могло принадлежать охотнику или пастуху. Однако основная гипотеза — цвет волос, и она подтверждается массовостью однокоренных фамилий: Рыжов, Рыжиков, Рыжков. По данным Б. Унбегауна, фамилии от цвета волос — одни из самых частых в России, и Рыжой — лишь редкий вариант написания, который не получил широкого распространения из-за конкуренции с более привычным Рыжов.

В документах фамилия Рыжой встречается с XVII века, в основном среди крестьян и однодворцев южных губерний. Сословной привязки нет: рыжие были и среди бояр, и среди холопов, но именно такая форма окончания указывает скорее на простонародную среду, где ударение и произношение не подгонялись под московскую норму. Сегодня носителей фамилии Рыжой немного, и они рассеяны по всей России, но чаще всего — в Белгородской, Курской и Воронежской областях.