Фамилия Каторгина образована от прозвища Каторга. В основе лежит слово «каторга», которое пришло в русский язык из древнегреческого (katergon — «галера»). В России XVIII–XIX веков каторгой называли систему наказаний: лишение прав состояния и принудительные работы под строгим надзором. Первые каторжные тюрьмы появились в начале XVIII века, и именно с этим контекстом, скорее всего, связан предок носителей фамилии. Прозвище Каторга мог получить человек, отбывавший такое наказание, или тот, кто работал в системе надзора.

Менее вероятная версия — что прозвище отражало черты характера: капризность, упрямство, жесткость. В пользу этой гипотезы нет устойчивых диалектных или фольклорных подтверждений, поэтому основным остаётся «каторжный» след. Суффикс -ин указывает на принадлежность: Каторгин — «сын или потомок Каторги». Форма Каторгина — женский вариант или исходная форма фамилии в родительном падеже (в говорах и документах часто писали «Каторгина жена», «Каторгина дочь»).

Фамилия редкая, географически привязана к регионам, где существовали каторжные учреждения: Сибирь, Урал, северные губернии. Встречается также в центральной России, но там, скорее всего, связана с переселениями или ссыльными. Однокоренные фамилии — Каторжный, Каторжников — встречаются чаще и прямо указывают на принадлежность к каторжному сословию. Каторгина стоит особняком: суффикс -ин делает её похожей на типичную «семейную» фамилию, что могло смягчать или скрывать неблагополучное происхождение.

Сословная принадлежность предков, скорее всего, была низкой: крестьяне, мещане, ремесленники. Дворянских родов с этой фамилией не зафиксировано. В дореволюционных переписях и метрических книгах фамилия встречается эпизодически, без массового распространения.