Фамилия Каторжина — женская форма фамилии Каторжин, и её происхождение напрямую связано с прозвищем Каторга. В основе лежит нарицательное «каторга», которое, в свою очередь, восходит к древнегреческому «katergon» — так называли галеру (судно для принудительного труда гребцов). От этого значения в русском языке развилось понятие «место принудительных работ».

Прозвище Каторга могли дать человеку, который либо отбывал наказание на каторге, либо вернулся оттуда. В крестьянской среде такое прозвище нередко закреплялось за ссыльным поселенцем — его прошлое становилось отличительным признаком, по которому семью и называли. Со временем прозвище перешло в фамилию: сына Каторги стали звать Каторжин, а дочь или жену — Каторжина.

Модель образования здесь простая и типичная для русских фамилий: суффикс -ин указывает на принадлежность («чей?» — «сын Каторги»). Это одна из самых распространённых моделей в центральной России и на Русском Севере. Фамилия Каторжин (и её женская форма) могла возникнуть в среде бывших каторжников, сосланных в Сибирь или на Урал, — именно в этих регионах подобные прозвища бытовали особенно часто.

В ономастических справочниках фамилии с корнем «каторг-» обычно относят к группе «социальных прозвищ», которые фиксировали положение человека в обществе или его жизненный опыт. Прямой связи с профессией здесь нет — это не ремесло, а скорее биографическая метка, которая со временем утратила негативный оттенок и стала просто семейным именем.