Фамилия Карганов образована от прозвища Карга. Также слово «карга» в значении «старуха» может употребляться в браной речи. Существует также другая гипотеза, согласно которой, фамилия Карганов имеет тюркские корни и ведет свое начало либо от слова garyjan — «состарившийся», либо от тюркского мужского имени Карахан, которое переводится на русский язык как «черный хан». Исследователь Ю.А. Федосюк полагает, что прозвище Караган является стяженной формой слова «караган» — «степная лисица». Поэтому такое прозвище мог получить хитрый, ловкий человек. Таким образом, потомок человека, обладающего прозвищем Карган, со временем получил фамилию Карганов.