Фамилия Гарфудинов — редкий случай, когда в основе лежит не славянское имя или прозвище, а тюркское арабского происхождения. Корень здесь — Гарфудин, что является искажённой формой арабского имени Гарфуддин (Гарф ад-Дин). В переводе с арабского это означает «познание веры» или «знаток религии»: «гарф» — знание, познание, «дин» — вера, религия. Имя Гарфуддин встречалось в среде мусульманских народов, особенно у татар и башкир, откуда, скорее всего, и пошла фамилия.

Русский суффикс -ов присоединили к тюркскому имени по стандартной модели образования фамилий в Российской империи. Для нерусских народов Поволжья и Приуралья это было обычной практикой: к имени отца добавляли русский патронимический суффикс, и сын Гарфудина становился Гарфудиновым. То есть фамилия буквально означает «потомок Гарфудина». Ударение, скорее всего, падает на последний слог — Гарфуди́нов, что типично для фамилий, образованных от имён с тюркским корнем.

Географически фамилия привязана к регионам с компактным проживанием татар и башкир: Татарстан, Башкортостан, Оренбургская, Челябинская, Самарская области. Встречается она нечасто, и среди носителей преобладают люди, чьи предки были крещёными татарами или мусульманами, принявшими православие — тогда имя Гарфуддин могли русифицировать при записи в метрические книги. Впрочем, часть носителей сохранила и исламскую традицию.

В написании фамилии иногда путают с похожей Гарфутдинов — там основа другое арабское имя Гарфутдин («служение вере»). Но в случае Гарфудинова корень именно «познание», а не «служение». Это редкое смысловое различие, которое легко упустить при поверхностном взгляде, но оно указывает на разные прозвища и, возможно, разный социальный статус предков: знаток веры — это скорее человек образованный, мулла или учитель, а не просто верующий.