Фамилия Байку — редкая, и её происхождение стоит искать не в славянской, а в тюркской языковой среде. В отличие от большинства русских фамилий на -ов или -ин, эта фамилия сохранила исходную форму прозвища или имени без русифицирующего суффикса. Такое «голое» окончание — верный признак того, что перед нами либо позднее переселенческое образование, либо фамилия, записанная в документах в том виде, в каком её произносили.

Скорее всего, в основе лежит тюркское слово «бай» — «богатый», «господин», «хозяин». У тюркских народов «бай» часто входило в состав имён и прозвищ как указание на знатность или состоятельность. Форма «Байку» может быть образована с уменьшительно-ласкательным аффиксом «-ку» (или «-кы»), который встречается в тюркских языках. Тогда Байку — это уменьшительное от «Бай», что-то вроде «богатенький» или «господчик». Вторая версия, менее вероятная: «Бай» могло быть частью сложного имени, а «ку» — усечением второй основы (например, от «кул» — «раб» или «кут» — «счастье»). Однако без письменных источников по конкретному роду это остаётся догадкой.

Географически фамилия могла закрепиться среди народов Северного Кавказа, Поволжья или Крыма — регионов, где тюркские языки были распространены. В русском контексте носители фамилии Байку — это, вероятно, потомки выходцев из этих мест, которые получили фамилию при переписи населения или при переходе в православие. В документах XIX — начала XX века такую фамилию могли записать без изменений, поскольку она короткая и не требовала адаптации.

Интересно, что фамилия Байку не имеет однокоренных «родственников» в русском ономастиконе вроде Байковых или Байкиных — именно из-за отсутствия суффикса. Если вы встретите Байку, то с высокой вероятностью это либо потомок тюркского рода, либо представитель малочисленной группы, сохранившей исходное родовое имя. Точную этимологию для конкретной семьи может дать только семейное предание или запись в метрических книгах, но тюркский «след» здесь самый правдоподобный.