Фамилия Шельмуханов — редкий случай, когда в основе лежит не имя и не ремесло, а прямое прозвище с яркой экспрессивной окраской. Корень здесь — «шельма». В русских говорах и в литературном языке XVIII–XIX веков шельмой называли плута, пройдоху, ловкого обманщика. Слово пришло из немецкого (Schelm — «мошенник», «проказник») через западнорусские земли и польское посредничество, где «szelma» означало то же самое. Таким образом, первый носитель фамилии получил прозвище Шельмухан — скорее всего, за хитрость, изворотливость или склонность к розыгрышам.

Обратите внимание на суффикс -ан. В русской антропонимии он часто придаёт прозвищу фамильярный, даже уничижительный оттенок: ср. Горлан, Крикун, Шельмухан. Это не просто «шельма», а «шельма этакий», «ловкач с ярко выраженным качеством». Такие формы были распространены в среде посадских людей, крестьян и казачества — там, где прозвища давали метко и не стеснялись в выражениях. Фамильный суффикс -ов стандартно указывает на принадлежность: «сын Шельмухана».

Географически фамилия тяготеет к южнорусским и кавказским регионам. В современных базах она встречается с заметной частотой в Дагестане и среди терских казаков. Это не случайно: слово «шельма» было очень употребительно в казачьей среде, а суффикс -ан характерен для украинского и южнорусского прозвищного фонда. Встречаются также варианты написания Шелмуханов (с упрощением «ь»), но исходная форма с мягким знаком закрепилась в паспортных записях.

Отдельно стоит сказать, что никакого отношения к тюркским или кавказским именам эта фамилия не имеет, несмотря на восточное звучание окончания. Основа чисто славянская, заимствованная из немецкого. Поэтому все попытки связать Шельмухановых с каким-либо «ханом» или мусульманскими корнями — народная этимология, не подтверждённая лингвистически. Прозвище Шельмухан не титул, а насмешливое именование ловкого человека, которое со временем стало фамилией.