Фамилия Каргановы образована от прозвища, и у этого прозвища есть как минимум три версии происхождения. Самая очевидная — русская: слово «карга» означало «старуха», часто в бранном, пренебрежительном смысле. Такое прозвище могли дать ворчливому, сварливому человеку, не обязательно пожилому.

Вторая версия уводит в тюркские языки. Здесь возможны два корня. Первый — garyjan, то есть «состарившийся», что по смыслу перекликается с русской «каргой». Второй — мужское имя Карахан, где «кара» — «черный», а «хан» — титул правителя. Если основа именно имя, то фамилия Карганов — это русифицированная форма отчества от тюркского имени.

Третью гипотезу предлагает исследователь Ю.А. Федосюк. Он считает, что прозвище Карган (стяженная форма от «караган») означало «степная лисица». В таком случае прозвище давали хитрому, ловкому человеку — по повадкам зверя.

Какая из версий верна для конкретной ветви рода, сказать сложно. Фамилия могла возникнуть в разных местах независимо: и в русских землях, где слово «карга» было в ходу, и на тюрко-славянском пограничье, где смешивались языки и имена. Суффикс -ов указывает на стандартную русскую модель образования фамилии как притяжательного прилагательного: сын Каргана (или Карги).