Фамилия Мартыноа — редкий случай, когда написание расходится с привычной моделью. Если вы встретили именно такой вариант, скорее всего, перед вами искажение фамилии Мартынов, закрепившееся из-за особенностей произношения или ошибки в документах. В русском языке фамилии на -ов образуются от основ, оканчивающихся на твёрдый согласный: Мартын → Мартынов. Форма Мартыноа выглядит как попытка записать фамилию на слух в говорах, где конечное «в» редуцируется или оглушается, а на письме его заменяют на «а». Такое встречается в южнорусских и украинских регионах, где фамилии вроде Мартыненко или Мартынюк привычнее, а «Мартынов» могли переосмыслить на местный лад.

Основа фамилии — крестильное имя Мартын (от латинского Martinus — «посвящённый Марсу», «воинственный»). В святцах имя закрепилось в форме Мартин, но в народе прижился вариант Мартын — через «ы», как более привычный для славянского уха. Фамилии от этого имени распространены повсеместно: Мартынов, Мартыненко, Мартынюк. Вариант Мартыноа стоит особняком — он не массовый и, скорее всего, единичный. По словообразованию это нестандартное окончание, которое не укладывается ни в одну регулярную модель русских фамилий (нет суффиксов -ов, -ин, -ский). Поэтому версия с опиской или диалектной фиксацией — самая правдоподобная.

Дополнительная деталь: в польской ономастике встречается фамилия Martynoa, но она записывается латиницей и относится к другому ареалу. Для русской традиции «а» на конце — признак либо украинского влияния (ср. фамилии на -а: Голова, Ветрова), либо канцелярской ошибки XIX–XX века, когда писарь записывал фамилию со слов и не сверялся с паспортом. Если у вас именно Мартыноа, то предки могли быть из областей, где фамилии на -ов произносили смягчённо, а при переезде или паспортизации написание закрепилось в таком виде.