Фамилия Мущенко почти наверняка — фонетический вариант более распространённого написания Мушенко: в устной речи глухой «ш» перед звонким суффиксальным согласным часто озвончается, что и закрепилось на письме в части семей. Сама же основа уходит в прозвище или краткое имя Муша, и здесь открывается развилка из двух главных версий.

Первая ведёт к женскому имени Мария. Муша — ласкательная краткая форма, каких в народной традиции было множество (Мара, Маня, Муся). Этимология самого имени Мария доподлинно не установлена: обычно вспоминают древнееврейское значение «горькая» или «желанная», реже — «безмятежная». Если предок носил имя Муша, фамилия могла образоваться от него напрямую, по модели «чей сын» — Мушин → Мушенко.

Вторая версия интереснее и уходит в мир дохристианских имён-оберегов. Не исключено, что Мушенко образовано от мирского имени Муха. У славян муха ассоциировалась с тёмными силами, порчей и сверхъестественным негативом, но именно поэтому такое имя давали как охранительное: родители, надеясь вырастить красивого и здорового мальчика, нарекали его Мухой, чтобы злые духи не позарились на ребёнка и прошли мимо. Такой приём — назвать желанное через отталкивающее — хорошо известен в ономастике.

Правдоподобнее выглядит вторая версия: мирские имена от названий животных и насекомых (Жук, Комар, Муха) были широко распространены в старину, и фамилии от них встречаются повсеместно. Версия с Марией тоже имеет право на жизнь, но требует, чтобы имя Муша бытовало у мужчин, что реже.

Историческая география фамилии подтверждает южнорусские корни: в Книге памяти Белгородской области записан Мущенко Артем Антонович, родившийся в 1871 году в селе Великомихайловка Курской области; в Книге памяти Хабаровского края указан Мущенко Павел Андреевич, родившийся в 1906 году в селе Тамаровка той же Курской области. Оба примера — из курских земель, что указывает на устойчивое бытование фамилии именно там. Суффикс -енко — типичный украинский и южнорусский патронимический, он отвечал на вопрос «чей?» и означал «сын, потомок такого-то». Так что Мущенко — это «сын Муши» или «сын Мухи», в зависимости от того, какую из версий принимать.