Фамилия Карганина — женская форма, а её мужской вариант — Карганин. Это одна из тех фамилий, чья основа на первый взгляд кажется тёмной, но при ближайшем рассмотрении раскрывается через диалектные слова и прозвища.

Суффикс -ин указывает на принадлежность: Карганин — «чей?» — сын или потомок человека по прозвищу Каргана. Само слово «каргана» в русских говорах (особенно южных и поволжских) имеет два основных значения. Первое — это «ветла», «ива» или кустарник, растущий у воды. Второе, более прозрачное для современного уха, — «карга», то есть старая, ворчливая женщина. Однако прозвище Каргана могло относиться и к мужчине: так в старину называли сварливого, брюзгливого человека или, напротив, того, кто жил у зарослей карганы.

Менее вероятная, но всё же возможная версия связывает фамилию с тюркскими корнями. В тюркских языках «карган» означает «сделанный», «сотворённый», а иногда — «старый» или «почтенный». В этом случае Карганин — потомок человека, которого прозвали Карган за возраст или заслуги. Однако для центральной России и Поволжья первая, славянская диалектная версия выглядит убедительнее: фамилия встречается именно в тех регионах, где слово «каргана» (ива) было в ходу.

Фамилия редкая и не принадлежала к дворянским родам. Её носители — скорее всего, крестьяне или мещане, получившие фамилию по уличному прозвищу. Географически Карганины встречаются в Поволжье (особенно в Самарской и Саратовской областях) и на юге России — там, где овраги и поймы рек поросли ивняком, который в народе и звали карганой.