Фамилия Гюльмалыева — редкий случай, когда в основе лежит не русское, а тюркское или кавказское составное имя, причём с женским суффиксом, что сразу выдаёт её носительницу. Если вы встретили эту фамилию, почти наверняка она принадлежит женщине: мужской вариант — Гюльмалыев.

Разберём корни. Первая часть, «Гюль», восходит к тюркскому и персидскому «гюль» — роза, цветок. Это чрезвычайно распространённый компонент в восточных именах (Гюльнара, Гюльчатай). Вторая часть, «Малыев», скорее всего, образована от имени Малый или Мал. В тюркских языках «мал» означает «скот, имущество», но в качестве личного имени чаще встречается уменьшительное «Малый» — ласковое прозвище младшего ребёнка или человека невысокого роста. Таким образом, Гюльмалыева буквально — «дочь (или из рода) того, кто зовётся Цветок-Малый». Имя Гюльмалы могло быть составным: родители назвали так дочь, желая ей красоты (цветок) и достатка (скот), либо же вторая часть — просто уменьшительное от имени.

Суффикс «-ев» (в женском варианте «-ева») — типичный русский патронимический суффикс, указывающий на принадлежность. Его появление в такой нерусской основе говорит о том, что фамилия оформлялась по русской модели, скорее всего, в XIX–XX веках, при записи в метрики или паспорта. Географически фамилия Гюльмалыева встречается преимущественно в Азербайджане и среди народов Дагестана (особенно у лезгин и табасаранцев), где составные имена с «гюль» традиционны. Встречается и у тюркоязычных народов Северного Кавказа.

Интересная деталь: из-за редкого сочетания корней фамилия практически не имеет однокоренных аналогов в русском ономастиконе. Вы не найдёте «Гюльмаловых» или «Малыевых» с первой частью — это штучная словообразовательная модель. Если ваш предок носил такую фамилию, он почти наверняка происходил из семьи, где ценили поэтичные восточные имена и где русская бюрократия зафиксировала полное женское имя как родовое прозвание.