Фамилия Жереб относится к числу древних русских прозвищных фамилий, образованных напрямую от нарицательного слова без добавления суффикса. Её основа — «жереб», краткая форма от «жеребец». В старину так называли не только самца лошади, но и осла, и верблюда. Прозвище Жереб мог получить человек, занимавшийся коневодством, — это одна из версий. Другая, не менее вероятная: в народе Жеребом называли молодого, рослого и сильного мужчину, намекая на его стать и выносливость.

Сама фамилия — пример так называемой «нутряной» модели, когда прозвище перешло в фамилию без изменений, без типичных суффиксов -ов, -ин или -ский. Такие фамилии встречаются реже, чем суффиксальные, и часто указывают на более раннее закрепление прозвища. В данном случае человек мог получить прозвище Жереб, а его потомки уже носили фамилию Жереб.

Исторические источники подтверждают, что корень «жереб» и его производные были в ходу с XIV–XVI веков. С. Б. Веселовский в своих ономастических работах упоминает: Жеребец Семен Александрович Кобылин, боярин второй половины XVI века; Давид Жеребец, боярин, 1304 год, Кострома; Жеребило Никуда, холоп середины XV века; Жеребя, крестьянин, 1565 год, Новгород. Эти записи показывают, что прозвища на «жереб» бытовали в разных слоях общества — от бояр до холопов и крестьян, и встречались на северо-западе и в центре Руси.

Географически фамилия Жереб в наши дни редкая, но встречается преимущественно в южных и центральных областях России, а также на Украине. Сравнение с однокоренными фамилиями — Жеребцов, Жеребкин, Жеребчиков — показывает, что именно бессуффиксная форма Жереб сохранила архаичный облик прозвища, не «обросшего» дополнительными формантами. Это делает её ценной для историков языка: по такой фамилии можно судить о древней модели именования, когда прозвище становилось фамилией без изменений.