Фамилия Иванов-Гайлисс — двойная, сложена из двух самостоятельных основ: самой распространённой русской фамилии Иванов и редкого прозвищного компонента Гайлисс.

Первая часть, Иванов, образована от крестильного имени Иван. В народе имя осмысляли по-разному: есть версия, что оно восходит к праславянскому «Ван» — так в древности могли называть славянских прародителей. Однако исторически надёжнее связывать его с каноническим именем Иоанн, которое пришло на Русь вместе с христианством и в переводе с древнееврейского означает «милость Божья». Фамилии на -ов от имени Иван давались по отцу: Иванов — буквально «сын Ивана».

Вторая часть, Гайлисс, явно нерусского происхождения. Скорее всего, она восходит к литовскому gailis — «багульник». Багульник — кустарник из семейства Вересковые, растущий на болотах и в сырых лесах. Прозвище Гайлисс мог получить человек, живший рядом с зарослями этого растения. Другая версия: так называли знахаря, который собирал багульник и лечил им людей — в народной медицине растение применяли от кашля, ревматизма и как успокаивающее средство. Таким образом, прозвище указывает либо на место жительства предка (у болота, поросшего багульником), либо на его занятие (сбор и применение лекарственных трав).

Двойные фамилии в России обычно возникали у дворянства, духовенства или при присоединении прибалтийских территорий. В данном случае сочетание русского патронима Иванов и литовского прозвища Гайлисс может указывать на смешанное происхождение рода или на то, что носитель фамилии получил вторую часть по месту прежнего проживания в Литве или на границе с ней.