Фамилия Жалыбин образована от мирского имени или прозвища Жалыба. В её основе лежит древнерусское слово «жаль» — горе, скорбь, печаль. Скорее всего, имя Жалыба давали по «охранительной» традиции: чтобы отвести от ребёнка зло, его нарекали словом с отрицательным смыслом. Считалось, что такое имя не привлечёт недобрых сил и, наоборот, обеспечит счастливую судьбу. Менее правдоподобная версия связывает прозвище Жалыба с украинским словом «жнея» — женщина, занятая жатвой. Однако эта гипотеза слабее, так как фамилия имеет отчётливо северно- и среднерусский ареал, где украинская лексика не была распространена.

Суффикс -ин указывает на принадлежность: Жалыбин — «сын Жалыбы». Такая модель типична для фамилий, образованных от имён и прозвищ, оканчивающихся на -а/-я. Потомок человека по имени Жалыба со временем и получил фамилию Жалыбин.

Фамилия редкая, в современных справочниках не имеет массированных географических скоплений. Встречается в центральных областях России, единичные записи есть в документах XVII–XVIII веков, где упоминаются крестьяне и посадские люди. Среди известных носителей фамилии нет громких исторических фигур — это рядовая русская фамилия, сохранившая память о древнем именослове и народной традиции.