Фамилия Кокуйский — редкий пример, где топонимическая модель на -ский накладывается на основу, которая в русском языке почти не встречается в «чистом» виде. Для носителя фамилии это означает, что предок почти наверняка получил её по названию места, где жил или откуда был родом. Вопрос лишь в том, какое именно это было место.

Самая очевидная версия — связь с географическими названиями Кокуй, Кокуево, Кокуйка. Такие топонимы разбросаны по всей России: от Вологодчины до Сибири. Наиболее известный — Кокуй, историческая слобода в Нерчинском районе Забайкалья, центр горнозаводского дела в XVIII–XIX веках. Если предки Кокуйских происходили оттуда, они могли быть либо служилыми людьми, либо мастерами, приписанными к заводам. Однако не стоит исключать и более скромные деревни с тем же названием в центральной России — в Тверской, Костромской, Ярославской губерниях.

Значение самого слова «кокуй» — тёмное и спорное. В диалектах русского языка оно встречается в значениях «кузнечик» (владимирское), «петух» (псковское), а также «свадебный обрядовый пирог» (северное). Есть и версия, что это финно-угорский субстрат: в коми «кок» — нога, в марийском «кок» — два, но убедительных лингвистических связей с фамилией не прослеживается. В любом случае, прозвище Кокуй могло закрепиться за человеком по какой-то внешней или поведенческой черте, но для фамилии на -ский это менее типично: такие фамилии обычно не от прозвищ, а от названий владений или мест жительства.

Суффикс -ский в русской традиции — маркер дворянского или, реже, духовного происхождения. Но в случае с Кокуйским это скорее указывает на то, что предок был «из Кокуя» или владел землёй в Кокуеве. Фамилия могла оформиться в среде мелкопоместного дворянства, однодворцев или даже крестьян, переселившихся в другие регионы и записанных по месту выхода. Встречаются также варианты написания через «а» — Какуйский, что может быть следствием акающего произношения или самостоятельной топонимической ветви.

Стоит отметить, что в «Ономастиконе» С. Б. Веселовского и в словаре В. А. Никонова фамилия Кокуйский не фигурирует — это говорит о её локальном и малочисленном бытовании. Если вы носите эту фамилию, поиск по генеалогическим базам лучше начать с переписей и метрических книг по Забайкалью и северо-западным губерниям — там, где встречаются топонимы Кокуй.