Фамилия Малайцев — редкий случай, когда географическое прозвище закрепилось через суффикс, типичный для отчеств. Её основа — «Малай» — не имеет отношения к жителю Малайзии, как могло бы показаться на первый взгляд. В русских говорах, особенно на юге и юго-западе, «малай» или «малаец» — это коренастый, невысокий человек, коротышка. Слово образовано от прилагательного «малый» с помощью суффикса субъективной оценки -ай, как «гуляй» от «гулять» или «дурай» от «дурак». Так что прозвище Малай давали человеку приземистому или младшему в семье.

Суффикс -цев в фамилии — вариант более распространённого -цов, который появлялся в фамилиях на -ец, если основа оканчивалась на ц. По той же модели возникли фамилии Молодцев, Удальцев, Глупцев. В случае Малайцев исходная форма прозвища была «Малаец», а фамилия буквально означает «сын Малайца» или «потомок того, кого звали Малайцем». С точки зрения словообразования это отчество второго порядка: сначала от «малый» образовали прозвище Малаец, а уже от него — фамилию с патронимическим суффиксом.

Встречается фамилия преимущественно в центральных и южнорусских областях — Курской, Воронежской, Ростовской, а также на Кубани. В этих краях слово «малаец» бытовало в диалектной речи как бытовое прозвище. Встречаются единичные носители на Урале и в Сибири, что объясняется переселенческими потоками XIX века.

Версия о происхождении от этнонима «малаец» (житель Малайского архипелага) маловероятна: контакты русских крестьян с малайцами в XVI–XVII веках, когда складывались фамилии, были практически невозможны. Если бы фамилия возникла от этнонима, она скорее имела бы форму Малайский или Малайкин. Так что основная версия — прозвище по внешности или росту.

Вариант написания с буквой «а» во втором слоге (Малайцев) — единственно верный для этой фамилии. Встречающееся изредка написание «Молайцев» — результат диалектного «аканья» или ошибки в документах.