Фамилия Бокаенко звучит на украинский лад и образована по одной из самых распространённых в украинской ономастике моделей — с суффиксом -енко. Этот суффикс, буквально означавший «маленький» или «сын», закрепился в Поднепровье и Левобережной Украине в XVI–XVII веках и стал главным маркером украинской фамилии. Бокаенко — это «сын Бокая» или «потомок человека по прозвищу Бокай».

Основа — Бокай — почти наверняка происходит от прозвища, связанного с прилагательным «бокий» или «бокастый». В восточнославянских говорах «бокий» означало «широкий в боках», «кособокий» или просто «имеющий заметный бок». Прозвище могли дать человеку плотного телосложения, с широкой фигурой, а в переносном смысле — упрямому или своенравному (как «бокастый» в значении «несговорчивый»). Менее вероятна, но не исключена связь с диалектным словом «бокай» — так в некоторых регионах называли боковой ветер или порывистый поток воздуха, но для прозвища человека это слишком отвлечённо.

В русской среде фамилия получила бы суффикс -ов (Бокаев), но вариант Бокаенко указывает на украинское происхождение рода. Географически фамилия чаще всего встречается в центральных и восточных областях Украины — Полтавщине, Черкащине, Сумщине. В XIX веке, с миграциями крестьян и казаков, носители фамилии осели на Кубани и в южных губерниях Российской империи, поэтому сейчас Бокаенко можно встретить и в Краснодарском крае, и в Ростовской области.

Сословно носители фамилии, скорее всего, принадлежали к казачеству или крестьянству — именно в этих средах суффикс -енко был массовым. Дворянских родов с такой фамилией в официальных родословных книгах не зафиксировано, что типично для «прозвищных» украинских фамилий. Если у вас есть семейное предание о происхождении — например, о предке-казаке по прозвищу Бокай — оно вполне может быть исторически точным.