Фамилия Гремилова образована от прозвища Гремило, а оно, в свою очередь, — от глагола «греметь», то есть «громко звучать, раскатываться гулом, разливаться звоном». Обладателя такого прозвища могли выделять по разным причинам. Самое прямое объяснение — сильный, звучный, громоподобный голос. Но необязательно речь шла только о физической громкости: Гремилом могли назвать хорошего оратора, человека, который умел глубоко тронуть слушателей словом.

Есть и другая версия: «греметь» в переносном смысле значило «быть знаменитым, прославленным». Тогда Гремило — это человек, о котором гремит слава в родных местах, заметная личность. Наконец, прозвище могло относиться к «профессиональным» именованиям. Если ремесло основателя рода было шумным — например, работа кузнеца, мельника, плотника или литейщика, — окружающие легко могли закрепить за ним такое прозвище.

С точки зрения словообразования фамилия Гремилова — типичная русская модель на -ов, указывающая на принадлежность: «сын Гремила». Суффикс -ил(а) в прозвищах характерен для древнерусских именований по действию (сравните: Губило, Крутило, Шумило). Это нередкая, но не самая массовая модель, что делает фамилию узнаваемой. Встречаются и однокоренные варианты: Гремилов, Гремильцев, Гремильский — все они восходят к тому же корню.