Фамилия Каржинов — редкая по своей словообразовательной модели. В ней сочетается нечастая основа «карж-» и типичный русский патронимический суффикс «-ин». Если фамилии на «-ов» образуются от основ на твёрдый согласный, а на «-ин» — от основ на мягкий согласный или на «-а/-я», то здесь мы видим исключение: основа «Карж» заканчивается на твёрдый шипящий, но суффикс выбран именно «-ин». Такое встречается, если в основе лежит имя или прозвище, оканчивающееся на «-а»: например, Каржа. В просторечии шипящий смягчался, и форма на «-ин» стала возможной.

Сама основа «карж» не имеет однозначного толкования в русском языке. В диалектах слово «каржа» или «карж» могло означать нечто скрюченное, корявое, высохшее — ср. «карж» в значении «коряга» или «сухой сук» в некоторых говорах Поволжья и Урала. Прозвище Каржа могли дать человеку сутулому, худому или с изогнутой осанкой. Другая версия связывает основу с тюркскими языками: «каржы» у татар и башкир означает «противник», «соперник». В пограничных районах, где русские переселенцы контактировали с тюркским населением, такое прозвище могло перейти в фамилию.

Географически фамилия Каржинов встречается в основном в Западной Сибири и на Урале — в Томской, Кемеровской областях, в Алтайском крае. Это указывает на позднее закрепление фамилии, вероятно, в XVIII–XIX веках, когда шло активное переселение крестьян и формирование новых фамилий на востоке России. Сословно носители почти наверняка были из государственных крестьян или однодворцев — дворянских родов с такой фамилией не зафиксировано.

Однокоренных фамилий мало: известны Каржов, Каржев, Каржавин. Последняя — самая близкая по модели: суффикс «-авин» тоже редок и указывает на происхождение от прозвища Каржава (от «каржавый» — шершавый, корявый). Каржинов стоит особняком: он образован напрямую от «Каржа», без промежуточного прилагательного. Это говорит о том, что прозвище было личным, а не описательным: предка так звали в быту, а потом фамилия закрепилась за его детьми.