Фамилия Жолубов — редкий случай в русском ономастиконе. Её основа сразу вызывает вопрос: что такое «жолуб»? Первая и самая очевидная версия — диалектное или фонетическое искажение слова «голубь». В южнорусских и украинских говорах начальное «г» перед гласной могло переходить в «ж» или «дз»: «жолуб» вместо «голуб». Тогда фамилия Жолубов — это аналог распространённой фамилии Голубов, образованной от прозвища Голубь. Такое прозвище давали человеку с мягким, кротким нравом, либо тому, кто был похож на голубя внешне — например, со светлыми или сизыми волосами. Суффикс -ов указывает на принадлежность: «сын Жолуба», то есть потомок человека с таким прозвищем.

Вторая, менее вероятная версия — связь с украинским словом «жолуб» (жёлоб). В некоторых говорах «жолубом» называли корыто или водосток. Прозвище могли дать плотнику, делавшему жёлоба, или человеку, жившему у оврага (жёлоба в переносном смысле). Однако эта версия слабее: фамилий от «жёлоб» в русской традиции почти нет, а фонетический переход «г» → «ж» для слова «голубь» хорошо задокументирован в диалектах.

Географически фамилия Жолубов тяготеет к западнорусским и украинским землям — Курская, Белгородская области, а также левобережная Украина. Встречается она редко, что говорит о локальном происхождении: скорее всего, один род или несколько семей из одной местности. В дореволюционных переписях Жолубовы могли записываться как крестьяне или мещане, но точных сословных данных по этой фамилии нет. Известных исторических носителей фамилия не имеет, и это нормально: большинство русских фамилий так и остались «тихими», без громких имён в энциклопедиях.