Фамилия Матюшенкоа — это нестандартная форма, которая, скорее всего, возникла из-за ошибки в записи или описки. Правильный и исторически сложившийся вариант — Матюшенко. Фамилия Матюшенко, в свою очередь, образована от имени Матюша — уменьшительной формы канонического имени Матвей (от древнееврейского Маттитьяху — «дар Яхве»). Суффикс -енко характерен для украинской и южнорусской ономастики: в XVI–XVII веках в Речи Посполитой и на землях Войска Запорожского так обозначали потомка, сына или ученика («Матюшенко» буквально — «сын Матюши»).

Если же отталкиваться от написания «Матюшенкоа», то это грамматический курьёз: окончание -а не свойственно украинским фамилиям на -енко (они не склоняются по падежам как существительные женского рода). Вероятно, кто-то при переписи или в паспортном столе механически добавил «а», посчитав фамилию женской формой по аналогии с русскими фамилиями на -ова. В реальности фамилия Матюшенкоа не встречается ни в исторических документах, ни в современных телефонных справочниках — это единичный случай искажения.

Обычно носители фамилии Матюшенко — потомки крестьян или казаков из центральной Украины (Полтавщина, Черкащина, Киевщина), где фамилии на -енко были массовыми. Родственными по корню будут фамилии Матвеев, Матюхин, Матюшкин (русские варианты) и Матюшенко, Матвієнко (украинские). Если вы встретили написание «Матюшенкоа», то, скорее всего, это опечатка, которую стоит исправить на Матюшенко — так фамилия будет соответствовать и исторической норме, и правилам русской орфографии.