Фамилия Гранильщиков прямо указывает на занятие предка — гранильщика. В основе лежит глагол «гранить», то есть придавать гладкую поверхность, шлифовать, наносить грани. Чаще всего Гранильщиком называли мастера по обработке камня (ювелира или каменотёса) либо кузнеца, работавшего с металлом. Суффикс -щик в названии профессии — старый и продуктивный: так образовывали имена ремесленников (ср. бакенщик, кровельщик). Фамилия образована по стандартной патронимической модели: «чей сын?» — Гранильщиков, то есть сын гранильщика.

Существует и менее очевидная версия: прозвище могли связать со словом «гран» в значении «зерно», «мельчайшая частица». Тогда Гранильщиком прозвали бы очень мелкого, щуплого человека. Однако эта гипотеза слабее: для прозвищ по размеру в русском языке куда чаще использовали слова вроде Кроха, Малыш, Зерно. Профессиональное происхождение выглядит убедительнее и встречается в ономастике чаще.

Фамилия редкая и географически привязана к регионам, где были развиты камнерезные промыслы, — Урал, Поволжье, Север. Встречается она и в центральных областях, но там, скорее всего, связана с кузнечным ремеслом. Форма на -ов типична для русских фамилий, образованных от названий профессий: если основа оканчивается на твёрдый согласный, прибавляется суффикс -ов. Никаких особых сословных ограничений у этой фамилии нет: гранильщики могли быть и крепостными мастерами, и вольными ремесленниками.