Фамилия «Хаоьковая» — редкий случай, когда написание подсказывает её происхождение. В ней отчётливо видна опечатка или искажение: буквосочетание «аоь» нехарактерно для русской морфологии. Скорее всего, перед нами фамилия «Хавковая» или «Хаустовая», где «ь» появилась случайно, а «о» — результат смешения с суффиксом -ов-. Исходная форма, вероятно, звучала как «Хаустовая» или «Хаустова».

Если отбросить искажение, основа восходит к прозвищу Хауст — от диалектного «хауст» (хохот, смех) или от глагола «хаустать» (громко кричать, хохотать). В южнорусских говорах так могли назвать весёлого, шумного человека, балагура. Суффикс -ов-/-ев- указывает на принадлежность: «Хаустовая» — дочь или жена Хауста, то есть из рода того самого хохотуна. Модель образования типична для русских фамилий на -ов/-ев, но окончание -ая (вместо обычного -а) встречается реже — оно характерно для южных и западных регионов, где фамилии склонялись как прилагательные.

Географически фамилия с корнем Хауст- встречается в Курской, Белгородской и Воронежской областях, а также на Украине. Встречаются варианты «Хаустов», «Хаустова», «Хаустенко». Написание «Хаоьковая» — скорее всего, ошибка переписчика или паспортиста начала XX века, когда фамилию записывали на слух. В таком виде она почти не фиксируется в современных справочниках, что делает её уникальной, но трудной для поиска.

Сословная принадлежность — крестьянская: прозвища такого типа давали в среде земледельцев и ремесленников. Дворянских родов с корнем Хауст- не известно. Если ваш предок носил фамилию «Хаоьковая», то он, вероятно, происходил из чернозёмных губерний, а его предок славился громким смехом или голосом.