Фамилия Грубой — один из тех редких случаев, когда написание в мужском роде совпадает с полной формой прилагательного. В русской фамильной системе это сразу указывает на её происхождение: перед нами не типичная модель с суффиксом -ов/-ев или -ин, а застывшее прозвище-прилагательное. Такие фамилии (Толстой, Босой, Кривой) чаще встречались на юге России и в украинских землях, где адъективная форма дольше сохранялась в быту.

Основа здесь очевидна — прилагательное «грубый». Но не спешите связывать её с современным значением «невежливый, резкий». В древнерусском языке слово «грубый» имело более широкий смысл: «необработанный, шероховатый, неотёсанный». Прозвище Грубой могли дать человеку с жёсткими чертами лица, с грубой кожей, с неуклюжими манерами — или же тому, кто работал с «грубым» материалом: камнем, деревом, металлом без тонкой отделки. В словаре русских фамилий Б. Унбегауна такие прозвища относят к категории характеризующих по внешности или поведению.

Интересно, что фамилия Грубой сохранила ударение на окончании — Грубóй, а не Гру́бой. Это архаичная черта: в старом русском языке краткие прилагательные в именительном падеже мужского рода часто имели ударное окончание. Если бы фамилия образовалась от краткой формы «груб», она звучала бы как Грубов. Но форма на -ой указывает на то, что предок носителя фамилии был известен именно как «грубой» — то есть прозвище употреблялось в полной, а не усечённой форме.

Встречаемость фамилии невелика. По открытым данным, носители Грубой сосредоточены в Краснодарском крае, Ростовской области, а также в Беларуси и на востоке Украины. Это совпадает с ареалом распространения фамилий-прилагательных, которые в центральных и северных губерниях России вытеснялись патронимическими моделями на -ов/-ев.

Среди однокоренных фамилий — Грубов, Грубый, Грубенко. Все они восходят к одному корню, но различаются по способу образования: Грубов — типичная русская патронимическая форма («сын Груба»), а Грубенко — украинская модель с уменьшительным суффиксом. Фамилия Грубой стоит особняком: она не говорит о родстве, а прямо называет качество самого первого носителя.