Фамилия Масколенко — редкий случай, когда украинская модель образования соединяется с основой, которую почти невозможно объяснить из славянских языков. Суффикс -енко указывает на типично украинское происхождение: в XVI–XVIII веках на Левобережной и Слободской Украине так оформляли патронимы, то есть «сын такого-то». Носитель фамилии — потомок человека, которого в документах записывали как Маскол, Масколенко же буквально значит «Масколов сын».

Главная загадка — корень «маскол». В украинском и русском языках нет слова с таким значением, которое прямо подходило бы для прозвища. Самая вероятная версия: это искажение или диалектный вариант слова «москаль». В украинской среде «москаль» — историческое прозвище москвича, русского, а также солдата московского войска. Переход «о» в «а» в безударном положении («маскаль») — распространённое фонетическое явление в южнорусских и украинских говорах. Если это так, то прозвище Маскол (или Маскаль) давали либо пришлому с севера, либо человеку, служившему в русской армии. В пользу этой версии говорит и то, что фамилия Маскаленко (с тем же корнем) встречается в украинских реестрах XVII века.

Вторая, менее надёжная версия — связь с тюркским словом «маска» (в значении «шутка, кривлянье») или «маскара» (шутник). Но в тюркских языках нет формы «маскол», а суффикс -енко нехарактерен для фамилий тюркского происхождения — они обычно оформлялись по-русски (-ов, -ев) или оставались без оформления. Поэтому тюркская гипотеза слабее.

Географически фамилия Масколенко почти не выходит за пределы Украины и юга России. В современных базах данных она встречается единично в Харьковской, Полтавской и Днепропетровской областях — то есть именно там, где активно шли процессы смешения украинского населения с московскими служилыми людьми. Сословно предки, скорее всего, были казаками или крестьянами: прозвище «москаль» в казацкой среде было хоть и нелестным, но употребительным, а фамилии на -енко в XVII–XVIII веках в основном носили именно казаки и мещане, а не шляхта.

Таким образом, Масколенко — это украинский патроним от прозвища, которое, вероятнее всего, указывало на русского по происхождению или на солдата. Фамилия редкая, недокументированная в классических ономастических справочниках (Унбегаун, Никонов её не фиксируют), что объясняется её локальностью и поздним закреплением.