Фамилия Шахудин — один из тех случаев, когда внешне «русская» форма скрывает восточное имя. Её основа — арабское мужское имя Шахудин (Шахуддин), которое в исламской традиции означает «свидетель веры» или «шахид веры» (от арабского «шахид» — свидетель, мученик за веру, и «дин» — религия, вера). В тюркских языках, через которые имя попало в русскую среду, оно могло звучать как Шахудин или Шахутдин.

Словообразовательная модель фамилии проста и прозрачна: к основе Шахудин добавили типичный русский патронимический суффикс -ов, который указывает на принадлежность к отцу. Таким образом, Шахудинов — буквально «сын Шахудина». Фамилия образована по той же схеме, что и десятки тысяч других русских фамилий от крестильных имён (Иванов, Петров), только в роли имени выступает нехристианское, мусульманское.

В быту и документах фамилия могла фиксироваться в двух вариантах: Шахудин и Шахудинов. Первый — усечённая форма, возникшая, когда носитель или переписчик отбросил суффикс -ов, воспринимая саму основу как готовую фамилию (сравните: «Иван» и «Иванов» — но есть и фамилия Иван). Второй вариант более архаичный и полный. В русском языке фамилии на чистую основу без суффикса (типа Шахудин, Габдуллин) нередко встречаются у татар, башкир и других тюркоязычных народов, которые заимствовали модель русской фамилии, но сохранили имя в исходном виде.

Скорее всего, предок носителя фамилии был мусульманином (татарином, башкиром или представителем кавказских народов), который жил в окружении русских или служил в русском государстве. В таком случае фамилия закрепилась за ним по имени отца — Шахудина. Географически фамилия встречается в Татарстане, Башкортостане, в Оренбургской и Челябинской областях, а также среди татарской диаспоры в других регионах России. Написание с буквой «у» во втором слоге (Шахудин, а не Шахутдин) — возможный результат упрощения или диалектного произношения, когда звук «т» выпал или перешёл в «х».