Фамилия Грубыи — редкий случай, когда написание прямо сохраняет звучание исходного прозвища. Это вариант фамилии Грубой, зафиксированный в старых документах и говорах, где окончание -ыи вместо -ой было нормой. По сути, перед нами не ошибка писаря, а архаичная форма полного прилагательного мужского рода: грубый человек, то есть неотёсанный, резкий, суровый нравом или же необработанный, черновой — если прозвище относилось к ремеслу.

Модель образования проста: прилагательное перешло в фамилию без дополнительных суффиксов, что типично для южнорусских и западнорусских территорий, где фамилии на -ый, -ий, -ой встречаются чаще, чем в центральных областях. Такие фамилии обычно закреплялись за одним человеком и не склонялись по падежам — отсюда и застывшая форма Грубыи.

Смысловая основа неоднозначна. В крестьянской среде «грубым» могли назвать человека прямого, не знающего лести, либо того, кто работал с грубым материалом — например, с камнем или деревом, не требующим тонкой обработки. В северных говорах слово «грубый» имело и значение «суровый, холодный» (о погоде или характере), что тоже могло стать прозвищем. Второй вероятный источник — топонимический: от названия деревни или урочища Грубое, Грубая, где жил основатель рода.

В отличие от более распространённых Грубого или Грубова, форма Грубыи не получила широкого распространения и осталась локальной, чаще всего встречаясь в старых метрических книгах Черниговской, Курской и Воронежской губерний. В современной России фамилия встречается редко, что делает её ценным маркером для генеалогического поиска: носители с высокой вероятностью происходят из одного небольшого региона или даже одного села.