Фамилия Масалий — редкий случай, когда суффикс указывает на географию точнее, чем корень. Окончание -ий в русских фамилиях обычно выдает украинское или белорусское происхождение, но здесь оно работает иначе. В фамилиях на -лий (Масалий, Гусалий, Ковалий) этот суффикс — не польский или украинский патроним, а остаток древнего прилагательного с суффиксом -ль-: так в южнорусских говорах и в украинском языке образовывали прозвища от глаголов. То есть Масалий — это тот, кто «масалит», то есть мажет, пачкает, или, в переносном смысле, делает что-то медленно и нудно.

Сам корень мас- отсылает к глаголу «мазать» (маслом, грязью, краской). В украинском языке «масати» означает «мазать», «пачкать», а «масаль» — это мазила, тот, кто возится с чем-то липким или занимается малярным делом. Поэтому первая и самая вероятная версия: фамилия Масалий произошла от прозвища маляра, штукатура или человека, работавшего с дегтем и смолой — например, колесного мастера, который смазывал телеги. Вторая версия, менее очевидная: прозвище могли дать неаккуратному едоку, который вечно пачкался за столом.

Словообразовательная модель фамилии — основа глагола + суффикс -ль + окончание -ий. Этот тип характерен для украинских фамилий (Коваль — коваль, ковальский; Масаль — масаль, масальский), но в русской среде фамилия могла закрепиться в форме Масалий как калька с украинского произношения. Если бы фамилия была чисто русской, она звучала бы как Масалов (от прозвища Масало) или Масальский (от географического названия). Форма на -ий выдает юго-западное происхождение предка — скорее всего, из Черниговской, Полтавской или Харьковской губерний.

Встречается фамилия крайне редко. В дореволюционных справочниках и переписях она почти не фиксируется, что говорит о её локальном бытовании в одном-двух селах. Скорее всего, Масалий — не дворянская фамилия, а крестьянская или казачья: прозвище закрепилось за одним родом и не распространилось широко. В современной России носители фамилии живут преимущественно в Краснодарском крае и Ростовской области — туда переселялись малороссы в XIX — начале XX века.