Фамилия Жибак — редкий пример, где географическое происхождение почти наверняка перевешивает любые другие версии. Она почти целиком привязана к Беларуси и западным областям России, особенно к Смоленщине и Брянщине. В польских и украинских записях она тоже встречается, но в основном как вариант написания Żybak. Если ваши предки оттуда, вы, скорее всего, идёте по правильному следу.

Словообразовательная модель здесь прозрачна: основа «жиб-» и суффикс «-ак». В русском языке суффикс «-ак» (или «-як») часто придаёт слову значение «тот, кто связан с действием или предметом»: рыбак (тот, кто ловит рыбу), вожак (тот, кто ведёт), простак (тот, кто простой). Значит, «жибак» — это человек, которого так прозвали за некое качество или занятие, связанное с корнем «жиб-».

Сам корень «жиб-» в восточнославянских говорах многозначен, но все значения сводятся к одному: нечто подвижное, зыбкое, неустойчивое. В диалектах слово «жибать» означало «качать, колебать, шатать». Отсюда прозвище могли дать человеку с характерной походкой — вразвалку, слегка покачивающейся, или же человеку непостоянному, «зыбкому» в решениях. Вторая, конкретная версия: в польском и белорусском языках «жибак» (żybak) — это народное название пескаря, мелкой речной рыбки. Прозвище могло прицепиться к низкорослому, юркому человеку или к заядлому рыбаку. Третья, самая прямая версия — прозвище от глагола «жибить», что в некоторых говорах означало «давить, жать, сжимать». Тогда «жибак» — это прижимистый, скуповатый человек.

Есть и более спорное предположение, которое стоит упомянуть лишь для полноты: связь с литовским žibėti (светить, сверкать) или žibaklis (светильник). Но для фамилии, зафиксированной в русскоязычной среде, это маловероятно — слишком далёкая семантика, и нет промежуточных форм в документах. Основная масса носителей фамилии Жибак — это потомки крестьян и мещан западных губерний Российской империи. В дворянских родословных книгах она не встречается, что тоже косвенно подтверждает её прозвищное, бытовое происхождение.

В итоге, если собрать всё вместе: ваш предок, скорее всего, жил на территории современной Беларуси или Смоленщины, и его прозвали по одному из трёх признаков — за походку (качающуюся), за внешность или характер (подвижный, как пескарь) или за скупость. Без конкретных записей по вашей ветви точнее не скажешь, но география и суффикс уже дают довольно чёткий портрет.