Фамилия Шарканов образована от прозвища Шаркан. Основа здесь — глагол «шаркать» или однокоренное ему звукоподражательное «шарк». В русских говорах «шаркать» означало не только тереть ногами при ходьбе, но и издавать шуршащий звук, скрести, а также говорить резко, невнятно или сварливо. Прозвище Шаркан могли дать человеку с тяжелой, шаркающей походкой, либо тому, кто говорил быстро и неразборчиво, «шаркал» языком. В диалектах встречается и слово «шаркун» — болтун, хвастун, но корень здесь тот же.

Суффикс -ов указывает на типичную русскую патронимическую модель: Шаркан — сын Шаркана, то есть потомок человека с этим прозвищем. Фамилия недворянская, крестьянская или мещанская по происхождению, без приставок и окончаний, свойственных польской или украинской традиции.

Любопытно, что у фамилии есть «двойник» — Шаркунов, с тем же корнем, но другим суффиксальным оформлением. Шаркановы могли встречаться в северных и центральных губерниях России, где «шарканье» как черта походки или речи отмечалось в быту. В переписных книгах XVII–XVIII веков эта фамилия почти не фиксируется, что говорит о её относительно позднем закреплении — скорее всего, в XIX веке, когда прозвища массово переходили в наследственные фамилии у крестьян после отмены крепостного права.

Ономастический словарь Б. Унбегауна не выделяет Шарканова отдельно, но относит подобные образования к группе фамилий от глагольных прозвищ на -ан. Встречается вариант написания через «о» — Шорканов, связанный с акающим произношением в южных говорах. Но основная форма — Шарканов — указывает на исходное «шаркать» без редукции.