Фамилия Костяаов — редкий пример того, как орфография может запутать этимологию. На первый взгляд, перед нами типичная русская фамилия на -ов, образованная от имени или прозвища Костя. Но двойное «а» в середине (Костя-а-ов) намекает на то, что исходная форма, скорее всего, писалась через «я»: Костянов.

Скорее всего, это вариант фамилии Костянов, которая произошла от имени Костян — просторечной или диалектной формы канонического имени Константин. В русских говорах имя Константин нередко сокращали до Костян (а не до Костя), и от него образовали фамилию с суффиксом -ов: Костянов. «Сын Костяна». Со временем, при заполнении документов или из-за неграмотности писцов, букву «я» могли прочитать как сочетание «иа» и записать как два «а» — так появился Костяаов. Подобные искажения нередки: фамилия могла «растянуться» на письме, сохранив в произношении звук [я].

Менее вероятная, но возможная версия — связь с существительным «кость» или прозвищем Костяной (например, костлявый человек). Однако суффикс -аов для таких основ нетипичен: от слова «кость» ждали бы фамилию Костин или Костев, а не Костяаов. Поэтому версия с именем Костян надёжнее.

Географически фамилия редкая, встречается точечно. В дореволюционных источниках её почти нет, что подтверждает: перед нами не старинная родовая фамилия, а поздний канцелярский вариант, закрепившийся случайно. Носители Костяаов, скорее всего, происходят из крестьянской или мещанской среды, где имя Константин было распространено, а грамотность — не всегда.

Таким образом, Костяаов — это не самостоятельная этимологическая загадка, а орфографическая тень фамилии Костянов, возникшая из-за особенностей русской скорописи и невнимательности переписчиков.