Фамилия Хуиный — один из самых неоднозначных и редких случаев в русской ономастике. Её основа, созвучная обсценной лексике, почти наверняка имеет иное, диалектное или профессиональное происхождение, чем табуированное слово. Прямое значение современного мата в качестве прозвища маловероятно для традиционной крестьянской среды, где фамилии закреплялись в XVIII–XIX веках.

Вероятнее всего, корень «ху-» восходит к древнерусскому «худый» — тощий, плохой, негодный, слабый. В северных и сибирских говорах слово «хуй» (или «хуёк») могло означать колышек, затычку, небольшой деревянный гвоздь. Отсюда прозвище Хуй — человек маленького роста, щуплый, либо мастер, делавший такие колышки (бондарь или плотник). Суффикс -ин-/-ын- указывает на принадлежность: Хуиный — «сын Хуя» или «из семьи Хуя». Модель образования типична для русских фамилий от прозвищ на -а/-я (ср. Хитрый — Хитров, но Хитруха — Хитрухин; здесь основа на согласный, поэтому -ин).

Вторая версия, менее вероятная, но возможная: искажение при переписи. В документах XVII–XVIII веков писцы могли записать фамилию на слух, не задумываясь о благозвучии. Исходная форма могла быть Худынин (от «худыня» — бедность, слабость) или Хухрин, но из-за неразборчивого почерка или диалектного произношения закрепился вариант Хуиный. Подтвердить это могут только архивные записи по конкретным губерниям, которых в открытом доступе крайне мало.

Фамилия не встречается в массовых списках дворянских родов и купеческих гильдий. По данным современных телефонных справочников, единичные носители живут в Пермском крае и на Урале — регионах, где долго сохранялись архаичные говоры. Никаких известных исторических личностей с такой фамилией не зафиксировано, что косвенно подтверждает её сугубо простонародное, локальное происхождение.

Если вы носитель этой фамилии, ваши предки, скорее всего, были крестьянами или ремесленниками из северных или уральских деревень, а прозвище Хуй дали либо за внешность («худой», то есть тощий), либо за работу с деревянными «хуями» — колышками. В любом случае, связь с современной бранью — случайное звуковое совпадение, а не прямое значение.