Фамилия Гроссов — относительно редкий пример, когда немецкое прозвище получило русскую фамильную форму. Основа здесь — Gross, что по-немецки значит «большой», «толстый», «тучный». Прямой смысл прозвища — внешность: так могли назвать крупного, дородного человека. Но у слова Gross есть и переносные значения: «великий», «знатный», «главный». В некоторых диалектах оно могло указывать на старшего в роду или на человека, занимавшего высокое положение. Поэтому нельзя исключать, что прозвище дали не за рост, а за статус или возраст.

Главная особенность фамилии — в суффиксе. Окончание -ов — типично русский способ образования фамилий, означающий «чей?», «сын кого?». То есть Гроссов буквально — «сын Гросса». Это говорит о том, что носитель немецкого прозвища жил в русскоязычной среде. Сама фамилия не немецкая, а русская по модели, но с иноязычным корнем.

Такие «гибридные» фамилии встречались в среде российских немцев, а также у евреев, живших на территории Российской империи. У них были распространены составные фамилии из немецких корней — например, Вейценбаум («пшеничное дерево»), Зауэрштром («кислый поток»), Левенфиш («рыба-лев»), Цигенбаум («козье дерево») или Квечман («тот, кто высказывается неохотно»). Но Гроссов стоит особняком: это не сложное слово, а простое прозвище, к которому добавили русский суффикс. Такая модель встречается реже.

Вероятнее всего, фамилия Гроссов возникла в западных или южных губерниях Российской империи, где было много немецких колонистов. Со временем носители фамилии могли обрусеть, потеряв связь с немецким языком, но сохранив корень в фамилии. Других версий происхождения, например от славянского корня, у этой фамилии нет — Gross однозначно указывает на немецкий источник.