Фамилия Каргинов чаще всего происходит от тюркского мужского имени Каргын. В основе лежит слово «каргын» — «подарок» или «одарённый». Во многих культурах существовали обрядовые имена, означающие то или иное благо: здоровье, храбрость, удачу. Имя Каргын, вероятно, давали ребёнку как пожелание, чтобы он стал ценным даром для семьи или общины.

Фамилию образовали по стандартной для юга России модели: к основе Каргин добавили фамильный суффикс -ов. В русском языке -ов указывает на принадлежность: «чей?» — Каргинов, то есть потомок или человек из рода Каргина. Встречается и вариант без суффикса — Каргин, но форма на -ов типична для фамилий, которые оформлялись уже в русской канцелярской среде, особенно среди казачества и крестьянства.

Ударение в фамилии плавающее: одни носители ставят его на первый слог (Ка́ргинов), другие на второй (Карги́нов). Оба варианта допустимы, хотя литературная норма тяготеет к ударению на корне — Ка́ргинов.

С точки зрения географии фамилия распространена в Северной Осетии, Кабардино-Балкарии и среди терских казаков. Это неудивительно: тюркские имена через осетинское и балкарское посредничество проникали в казачью среду. Один из самых известных носителей фамилии — советский и российский автогонщик Алексей Каргинов, участник ралли «Дакар», что подтверждает южное происхождение рода и связь с регионом Северного Кавказа.