Скорее всего, прозвище Кармалыс образовано от топонима Кармалисы: населенный пункт с таким названием находится в Полоцком районе Витебской области Белоруссии. Вероятно, Кармалысом прозвали уроженца этих мест. Согласно другой, менее правдоподобной версии, фамилия Кармалыс ведет свое начало от татарского мужского имени Кармала — варианта имени Карамулла. Оно, в свою очередь, происходит от татарского слова «кара» - «грозный, сильный», «великий» и арабского «мулла» - «духовный наставник, учитель, проповедник».