Фамилия Мармуденко звучит на украинский лад и образована по продуктивной модели фамилий на -енко. Суффикс -енко в украинской ономастике выполняет ту же роль, что русские -ов/-ев: он указывает на происхождение от отца или предка. Буквально Мармуденко — это «сын Мармуда» или «потомок Мармуда». Эта модель была особенно популярна на Левобережной Украине, в Полтавской, Черниговской и Харьковской губерниях, где фамилии на -енко составляют большинство.

Основа фамилии — Мармуд — не имеет прямого аналога в современном украинском или русском именослове. Скорее всего, это прозвище, которое могло возникнуть из нескольких источников. Первая версия: от тюркского слова «мармут» (байбак, степной сурок). В степных регионах Украины, где контактировали славянские и тюркские народы, прозвище Мармут могли дать медлительному, неповоротливому человеку или, наоборот, тому, кто хорошо знал повадки зверька и промышлял охотой. Вторая версия: искажённое личное имя Мармуд из арабского «Мармуд» (желанный, вожделенный), которое могло попасть в украинскую среду через крымскотатарское посредничество.

Менее вероятно, хотя и не исключено, что в основе лежит диалектное слово «мармуд» — так в некоторых южнорусских говорах называли ворчуна или брюзгу. Но эта версия слабее, потому что фиксаций такого слова в словарях почти нет, а фамилия явно тяготеет к украинскому ареалу.

В дореволюционных метрических книгах фамилия Мармуденко встречается преимущественно в Екатеринославской и Херсонской губерниях — на землях, которые активно заселялись выходцами из Полтавщины и Черниговщины. Носители фамилии, скорее всего, были казацкого или крестьянского происхождения, а не дворянского: суффикс -енко в малороссийской среде был маркером простого сословия. Сословных привилегий фамилия не давала, но зато чётко указывала на родство и место в общине.

Если сравнивать Мармуденко с однокоренными фамилиями — Мармутов, Мармут, Мармудов — то видно, что все они держатся юга и востока Украины. Это дополнительно подтверждает связь основы со степной фауной или тюркскими заимствованиями. В современной России фамилия редка, но встречается в Краснодарском крае и Ростовской области — там, куда переселялись украинские крестьяне в XIX — начале XX века.