Фамилия Кармаринов — редкий пример, когда прозвище, лёгшее в основу, не имеет однозначного истолкования. Корень «кармар» не встречается в распространённых древнерусских именах или названиях ремёсел, поэтому этимологу приходится выбирать из нескольких версий, ни одна из которых не является очевидной.

Самая прямая гипотеза — связь со словом «карма» (в значении «кошелёк» или «карман»). В таком случае Кармаринов — это русифицированная форма отчества от прозвища Кармарь (или Кармар), которое дали человеку, носившему деньги в особом мешке, либо тому, кто шил кошельки. Суффикс -инов указывает на принадлежность: «чей?» — Кармаринов, то есть сын Кармаря. Однако у этой версии есть слабое место: в русских говорах чаще бытовало слово «карман», а «кармарь» — форма, тяготеющая к юго-западным диалектам или к украинскому влиянию.

Вторая версия выводит фамилию из тюркских языков. В татарском и башкирском «кармар» может означать «смотреть», «глядеть» (от корня «кар» — взгляд). Прозвище Кармар в таком случае давали зоркому, наблюдательному человеку. Фамилии на -инов тюркского происхождения не редкость в Поволжье и на Урале, где русские крестьяне нередко получали фамилии от соседей-татар.

Третья, менее вероятная версия, — связь с греческим именем Кармарий (от «карма» — плод, урожай). В этом случае фамилия могла попасть в русскую среду через греческое духовенство или купцов, но массового распространения такой антропоним не получил.

Морфологически фамилия образована по продуктивной модели: основа на -арь (как Пономарёв, Бондарев) плюс суффикс -инов, который встречается реже, чем -ов, но встречается (ср. Ростовцев — от Ростовец). Ударение, скорее всего, падает на третий слог: Карма́ринов, хотя в бытовой речи возможны колебания.

Самый надёжный способ уточнить происхождение — найти ранние записи фамилии в метрических книгах. Если Кармариновы встречаются в Воронежской или Курской губерниях — версия с «карманником» весомее. Если фамилия локализуется в Казанской или Уфимской губерниях — стоит присмотреться к тюркскому корню.