Фамилия Каргин образована от прозвища Карга. В русских говорах у этого слова два основных значения: «ворона» (в диалектах Сибири и Поволжья) и «старуха» (в бранной речи). Именно второе значение чаще всего становится основой для прозвища. Прозвище Карга могло указывать на особенности характера, поведения или внешности основателя рода — сварливую или ворчливую старуху. Но не обязательно прозвище относилось к самому предку: возможно, он был родственником или воспитанником пожилой женщины, которую не жаловали соседи. Тогда прозвище закрепилось за ним по семейной или бытовой связи.

Словообразовательная модель проста: суффикс -ин указывает на принадлежность. Каргин — «сын Карги» или «человек из семьи Карги». Такая модель типична для русских фамилий, образованных от прозвищ на -а. По своему происхождению фамилия крестьянская или мещанская: в среде дворянства и духовенства прозвища с таким значением почти не встречались.

Есть и другая гипотеза: в южнорусских и украинских говорах «карга» означала «коряга», «кривое дерево». Тогда прозвище могли дать человеку сутулому, с искривлённой осанкой. Эта версия менее распространена, но возможна, особенно если фамилия встречается в регионах, где такое значение слова было в ходу.

Географически фамилия Каргин чаще всего фиксируется в Поволжье, на Урале и в Сибири — то есть в тех местах, где диалектное слово «карга» (ворона или старуха) было особенно употребительно. В центральных областях России она встречается реже.