Фамилия Мальский чаще всего образована от прозвища или нецерковного имени Маль, что значит «маленький». В старину имена с корнем «мал-» (Малец, Малюта, Малыш, Малява) были широко распространены и не считались обидными — так могли назвать младшего сына или невысокого ребёнка. Когда человек взрослел, имя Маль или уменьшительное Малько могло закрепиться за ним на всю жизнь, а затем перейти к потомкам в виде фамилии Мальский. Суффикс -ский указывает на дворянский или польский тип фамилий, но в России его часто получали выходцы из духовенства и мелкие служилые люди.

Менее вероятна версия о татарском происхождении от слова «малик» — «след по снегу или песку». Если это так, то предок мог быть охотником, выслеживающим зверя, но эта гипотеза слабее: для фамилий на -ский татарские корни нехарактерны.

Самая интересная деталь — возможная связь с географическим названием. В Псковской области, у деревни Малы, расположено Мальское озеро. На его берегу стоял Мальский Спасо-Рождественский монастырь (известный также как Онуфриева пустынь), основанный в XV веке проповедником Онуфрием Мальским. Фамилия Мальский могла закрепиться за человеком, который родился или жил у этого озера, либо за выходцем из монастырских крестьян. Таким образом, у фамилии два равновероятных пути: от личного имени-прозвища Маль или от названия места, где жил предок.