Фамилия Машкои — редкий случай, когда написание почти полностью совпадает со звучанием, но при этом ставит в тупик любого, кто пытается разобрать её по привычным русским лекалам. В русском языке фамилии на -ой (ударное окончание) — это обычно прилагательные: Толстой, Благой, Полевой. В слове Машкои ударение, скорее всего, падает на последний слог — Машко́и, и тогда перед нами не русская, а украинская или белорусская модель. В этих языках -ий и -ой в окончаниях прилагательных часто сливались или менялись местами, а на письме закрепилось то, что слышал писарь. Но есть и другое, более простое объяснение: фамилия могла возникнуть как «окающее» написание фамилии Машкий. В южнорусских и украинских говорах безударное «и» звучит как нечто среднее между «ы» и «о», и при записи фамилии Машкий на слух могли вывести Машкой, а затем, по аналогии с фамилиями вроде Косой, переделать в Машкои.

Основа фамилии — имя или прозвище Машко. Это уменьшительная форма от Матвей (через народное Матюха, Машутя) или, что менее вероятно, от Макар. В украинской и белорусской традиции суффикс -ко — один из самых распространённых при образовании фамилий от имён: он указывал на принадлежность к роду («сын Машка»). Сначала было прозвище Машко, затем его закрепили за потомками, а окончание -ой/-ий добавилось уже при оформлении официальной фамилии в метриках или ревизских сказках.

Географически фамилия тяготеет к западу и юго-западу бывшей Российской империи. Встречается в Черниговской, Полтавской, Харьковской губерниях, а также в Беларуси (особенно в Гомельской и Могилёвской областях). В современной России она редка и локализована, скорее всего, в тех же регионах, куда переселялись малороссы в XIX—XX веках.

Социального статуса носителей по одной фамилии не определить. Машкои могли быть и крестьянами, и казаками, и мещанами — суффикс -ко не был сословным, в отличие от дворянских -ов/-ев. В украинских реестрах казацкой старшины XVII века встречаются отдельные упоминания Машков, но это уже другая форма.

Сравнение с однокоренными фамилиями (Машков, Машкевич, Мащенко) показывает, что Машкои — одна из самых редких ветвей этого гнезда. Если Машков — стандартная русская фамилия, а Машкевич — польско-белорусская, то Машкои — это местный вариант, зафиксированный на стыке языковых влияний. Её уникальность в том, что она сохранила «живое» окончание, которое в официальных документах обычно заменяли на более привычное -ов или -ий.