Фамилия Малыца — довольно редкий случай, когда корень и окончание вводят в заблуждение. На слух она воспринимается как форма родительного падежа («нет Малыца»), но на деле это именительный падеж в чистом виде. Такое окончание -ца характерно для украинской и белорусской традиции оформления фамилий, где суффикс -ец под влиянием местной фонетики перешёл в -ца. То есть перед нами не что иное, как украинский или южнорусский вариант фамилии Малец.

Основа фамилии — прилагательное «малый» в значении «невысокий ростом», «младший по возрасту» или «незначительный по положению». В славянской среде прозвище Малый давали либо младшему сыну в семье (по аналогии с «меньшак»), либо человеку невысокого роста. В украинском языке слово «малець» закрепилось именно за мальчиком, подростком — так могли назвать молодого парня, который ещё не вошёл в полную силу. Фамилия Малыца, таким образом, буквально означает «сын Малого» или «потомок того, кого звали Малец».

Словообразовательная модель здесь нестандартная для русского уха, но типовая для западнорусских земель. Если бы фамилия формировалась по великорусскому образцу, мы бы получили Малышев или Мальцев. Вместо этого суффикс -ец дал форму Малец, а затем, через украинскую адаптацию, — Малыца. Иногда встречается написание через «и» — Малица, но это уже другой корень (от «малий» — маленький по-украински) или результат смешения с названием одежды.

Географически фамилия тяготеет к западу: чаще всего её носители встречаются в Черниговской, Житомирской, Гомельской областях, а также среди потомков переселенцев с этих территорий в Сибири и на Дальнем Востоке. В дореволюционных метрических книгах Малыца фигурирует преимущественно среди крестьян и мещан — никаких дворянских родов с такой фамилией не зафиксировано.

Спорных версий происхождения немного. Иногда корень пытаются возвести к тюркскому «мал» (скот, имущество), но для этого нет ни фонетических оснований, ни исторических свидетельств. Правдоподобнее всего — прозвище по возрасту или росту, которое в украинской среде дали предку.