Фамилия Волкоав — один из тех редких случаев, когда написание отклонилось от нормы настолько, что корень перестал читаться сразу. Правильная, историческая форма — Волков, одна из самых распространённых русских фамилий. Вариант с «оа» на конце — это, скорее всего, не оригинальная запись, а результат ошибки переписчика, опечатки в документе или позднейшего искажения при записи со слуха. В русской ономастике модель «-ов» образует притяжательные фамилии, отвечающие на вопрос «чей?»: Волкоав — это «чей-то Волк», то есть потомок человека по прозвищу Волк.

Прозвище Волк в Древней Руси давали не за злобу, а за определённые черты характера или внешности: замкнутость, нелюдимость, хитрость, умение выживать в одиночку, а иногда и за светлые, «волчьи» глаза. В языческой традиции волк был тотемным зверем, и наречение таким именем могло носить охранительный характер — считалось, что злые духи не тронут того, кто уже назван сильным хищником. В крестьянской среде прозвище Волк встречалось повсеместно, поэтому фамилия Волков (и её искажённые формы) не указывает на конкретную местность — она бытовала и на севере, и в центральных губерниях, и на юге.

Если ваша фамилия действительно зафиксирована в документах как Волкоав, а не Волков, это может быть ценной подсказкой для генеалога. Такое написание встречается в метрических книгах и ревизских сказках XIX века, особенно в регионах, где было сильно влияние местных говоров или где писарь записывал фамилию на слух, не сверяясь с паспортом. Например, в некоторых южнорусских и белорусских говорах конечное «-ов» могло редуцироваться и на письме передаваться как «-оав» или «-аув». Восстановить исходную форму можно только по архивным записям: если в одном документе предок записан как Волкоав, а в другом — как Волков, значит, это один и тот же род, а написание — случайное.

С точки зрения словообразования, суффикс «-ов» в фамилии Волкоав указывает на то, что основа — нецерковное имя или прозвище, а не календарное имя святого. Это типично для «звериных» фамилий, которые составляют большой пласт русской ономастики: Волков, Зайцев, Медведев, Лисов. Унбегаун в своём словаре русских фамилий относит Волкова к группе, образованной от названий животных, и отмечает её повсеместную распространённость. Ваш вариант с лишней гласной — редкое исключение, но именно оно может стать ключом к поиску: если вы найдёте в архивах именно Волкоава, а не Волкова, это будет точным совпадением, а не гаданием.