Фамилия Рыхливский образована по самой распространённой у славянской шляхты и духовенства модели — с суффиксом -ский/-цкий. Такие фамилии указывали либо на владение землей (по названию поместья), либо на место рождения. В основе фамилии лежит географическое название — скорее всего, деревня или урочище Рыхли, Рыхлово или Рыхлив. Подобные топонимы встречаются в западнорусских землях, на территории современной Украины и Беларуси (например, село Рыхли в Черниговской области). Корень «рыхл-» в говорах мог означать не только «неплотный, мягкий», но и «вялый, медлительный человек», хотя для фамилии на -ский первично именно название места, а не прозвище.

Менее вероятно, но возможно, что фамилия происходит от прозвища Рыхлый — так могли назвать рыхлого, тучного человека или, наоборот, неповоротливого. В этом случае Рыхливский — это «сын Рыхлого», но с добавлением шляхетского суффикса, что нехарактерно для крестьянских прозвищ: обычно они давали фамилии на -ов/-ев или -ин. Поэтому версия с топонимом убедительнее.

С точки зрения словообразования, суффикс -ский указывает на принадлежность к дворянскому сословию или, реже, на происхождение из духовенства. В Речи Посполитой такие фамилии массово получали мелкие шляхтичи, владевшие хуторами и фольварками. Рыхливские, скорее всего, были именно такой служилой или землевладельческой семьей, чья фамилия закрепилась за потомками выходцев из одного села.

Встречаемость фамилии сегодня невысока, она сосредоточена в западных регионах России, на Украине и в Беларуси, что подтверждает её западнорусские корни. В документах XIX века носители фамилии могли записываться и как Рыхловские — это вариант, возникший из-за неустойчивости гласной в основе или под влиянием соседних говоров.