Фамилия Бокай — редкая, и её происхождение не лежит на поверхности. У неё нет очевидного суффикса вроде -ов или -ин, а значит, она могла закрепиться в неизменной форме, как это часто бывает с прозвищами или фамилиями украинского, белорусского или польского происхождения.

Самый вероятный путь — от прозвища Бокай. В южнорусских и украинских говорах «бокай» или «бокатый» могли назвать человека широкого в плечах, плотного, «с боками». Такое прозвище давали крепкому, коренастому мужчине. В этом случае фамилия — чисто описательная, по внешности. Есть и другая версия: в польском языке слово «bok» также означает «бок», а «bokiem» — «боком, криво». Прозвище Бокай мог получить косой или хромой человек, который ходил, скособочившись. Обе гипотезы укладываются в модель прозвищ по физическим особенностям, которые в Восточной Европе давали без злого умысла — скорее как меткую примету.

Реже фамилию связывают с тюркскими корнями. В казахском и башкирском «бокай» — это имя собственное, означающее «герой, силач». Однако для русской фамилии эта версия менее вероятна: тюркские основы обычно обрастают русскими суффиксами (Бокаев, Бокайлов), а форма Бокай без окончания скорее указывает на славянское прозвище, которое просто перешло в фамилию как есть.

Географически фамилия встречается рассеянно: на западе России, в Беларуси и на Украине. Встречаются единичные носители и на Урале, но там это, скорее всего, след поздних переселений. В дореволюционных списках Бокай не был дворянской фамилией — её носили крестьяне и мещане, что подтверждает бытовое, прозвищное происхождение.

Если суммировать: скорее всего, ваш предок получил прозвище за стать или осанку — и фамилия сохранила эту живую черту без изменений.