Фамилия Третьякоа — довольно редкий вариант написания, который, скорее всего, возник на стыке двух явлений: либо это искажение при записи (опечатка, замена окончания под влиянием местного говора), либо перед нами фамилия с финалью «-оа», что нетипично для русского языка. В русской ономастике суффикс «-ов» — самый распространённый патронимический показатель («чей?» — «сын такого-то»). Варианты вроде Третьяко́в, Третьяко́ва, Третьяко́вы — норма. А вот написание «Третьякоа» встречается в единичных документах и чаще всего оказывается ошибкой писаря или результатом аканья на письме: безударное «о» на конце могли записать как «а», а потом закрепить в паспорте.

Если отбросить вероятность опечатки, то основа фамилии прозрачна: «третьяк». В Древней Руси Третьяком называли третьего ребёнка в семье. Имя-прозвище Третьяк было очень популярно в XV–XVII веках — его давали неофициально, по счёту рождения, как Первак, Вторак, Четвертак. Со временем это прозвище стало фамилией. То есть предок носителя фамилии (в любом её написании) был, скорее всего, третьим сыном у своих родителей.

Интересно, что фамилия Третьяков (и её производные) не была дворянской или купеческой по умолчанию. Знаменитые купцы Третьяковы (основатели галереи) — лишь одна ветвь. Основная масса носителей — крестьяне и посадские люди центральной России, особенно из Ярославской, Костромской, Владимирской губерний. Там прозвище Третьяк фиксируется в писцовых книгах с XVI века. Если ваша фамилия именно «Третьякоа», стоит проверить архивные записи по месту жительства предков: в северных и вологодских говорах конечное «-о» в фамилиях могли произносить твёрдо и писать на слух, что давало такие нестандартные формы.