Фамилия Кармишин, скорее всего, образована от прозвища или имени Кармиша. В основе может лежать тюркское имя Кармыш, которое переводят как «ребенок родился». Такие имена давали в тюркской среде, чтобы подчеркнуть радость появления наследника или как оберег. Это объяснение выглядит надёжнее других, потому что тюркские имена часто становились основой для русских фамилий на южных и восточных окраинах государства. Суффикс -ин указывает на принадлежность: Кармишин — «сын Кармиши» или «человек из рода Кармиши».

Есть и другая версия, привязанная к географии. В Пензенской области существует посёлок Кармиши. Если прозвище дали человеку, который оттуда приехал, то фамилия могла возникнуть по месту жительства. Само название посёлка иногда возводят к коми-пермяцким корням: «кар» — «город» и «мича» — «красивый». Но эта гипотеза спорная: Пензенская область находится далеко от территорий расселения коми-пермяков, и языковая связь неочевидна. Скорее всего, название посёлка тоже имеет тюркское происхождение, и тогда обе версии сходятся к одному корню.

Фамилия Кармишин — патронимическая, то есть образованная от личного имени отца. Модель на -ин типична для центральной России и Поволжья. Носители фамилии встречаются в Пензенской, Саратовской, Ульяновской областях, что косвенно подтверждает связь с регионом, где проходили тюркско-славянские контакты. Кармишины могли быть крестьянами или посадскими людьми, но точных сословных данных нет. Фамилия редкая, и в дореволюционных источниках почти не фигурирует.