Фамилия Гранельщиков — редкий случай, когда прозвище, лёгшее в основу, почти полностью вытеснило из языка исходное слово. С первого взгляда кажется, что корень «грань» или «гранить» — и тогда предок был камнерезом, ювелиром или стекольщиком. Но суффикс «-ельщик» указывает на другой механизм словообразования. В русских фамилиях на «-ельщиков» (ср. Ковальщиков, Ткальщиков) основа обычно восходит к глаголу на «-еть» или «-ить», а суффикс «-ельщик» — вариант «-льщик» с беглым гласным. То есть Гранельщиков — это тот, кто «гранит» или «гранеет», но не в смысле обработки камня.

Вероятнее всего, исходное слово — «гранель» или «гранёль». В диалектах русского севера и Урала так называли не камень, а особый вид бракованного или мелкого зерна, отходы при обмолоте или просеивании. «Гранельщиком» могли прозвать крестьянина, который занимался отбором, очисткой или сортировкой зерна — своего рода веяльщика или ситовщика. Либо, если принять версию с корнем «грань» в значении «рубеж, край», то «гранёль» могла обозначать межевой знак или граничный столб, а «гранельщик» — человека, который ставил такие знаки на полях или в лесу. Такая профессия была востребована при землеустройстве в общинах.

Фамилия образована по типичной модели: прозвище на «-ель» (Гранель) плюс суффикс принадлежности «-щик» (носитель действия) и далее патронимический суффикс «-ов». То есть Гранельщиков буквально — «сын Гранельщика». Форма на «-ов» указывает на центральные и южные регионы России, где эта модель преобладала. На севере или в Сибири фамилия могла бы звучать как Гранельщиковы или Гранельщиковский, но сохранилась в более простом варианте.

Из-за редкости корня фамилия почти не встречается в крупных ономастических словарях. Её нет в списках старинных дворянских родов или купеческих гильдий — скорее всего, носители были крестьянами или ремесленниками из центральной России. Спорная версия о связи с «гранильщиком» (ювелиром) маловероятна: в этом случае фамилия писалась бы через «и» — Гранильщиков, а не через «е». Разница в одной букве здесь принципиальна, так как суффикс «-ильщик» (от «гранить») и «-ельщик» (от «гранель») — разные словообразовательные типы.