Фамилия Шмаля — редкий случай, когда основу стоит искать не в нарицательном существительном, а в глагольной форме. В отличие от подавляющего большинства русских фамилий на -а, которые произошли от прозвищ или крестильных имён (Молча, Беда, Гаврила), Шмаля, скорее всего, восходит к украинскому или южнорусскому глаголу «шмаля́ти» — палить, жечь, опаливать, а также стрелять (от польского szmalić). Таким образом, Шмаля — это прозвище человека по действию: либо подпальщика, того, кто выжигал лес под пашню, либо кузнеца, работавшего с огнём, либо просто человека с крутым, «палящим» нравом.

Фамилия закрепилась без патронимического суффикса (-ов, -ин, -енко), что характерно для украинской ономастики, где прозвища часто становились фамилиями в чистом виде. Сравните: Шмаля, Шмалько, Шмаль — все они однокоренные и указывают на ту же «огненную» основу. Встречается вариант Шмалёв, но он уже «обрусел» через суффикс принадлежности.

Географически фамилия Шмаля тяготеет к западноукраинским и белорусским землям, а также к югу России — регионам, где был распространён диалектный глагол «шмалять». В документах XVII–XVIII веков можно найти запорожских казаков с таким прозвищем, что подтверждает его древнюю прозвищную природу: человека называли не по отцу, а по характерному занятию или поведению. Правописание с одной «л» — нормативное для русского языка, хотя в украинских источниках встречается и удвоенное «шмалля».