Фамилия Кармухин — довольно редкая, и её происхождение не лежит на поверхности. В основе, скорее всего, лежит прозвище или мирское имя, образованное от слова «кармуха». В русских говорах кармухой называли корм для скота, смесь отрубей с мукой, а также грубую, плохую пищу. Человек мог получить такое прозвище за неразборчивость в еде, за привычку есть на ходу или, напротив, за то, что занимался заготовкой или продажей кормов.

Суффикс -ин указывает на принадлежность: Кармухин — сын или потомок Кармухи. Это типичная модель для русских фамилий, образованных от прозвищ на -а/-я. Важно, что фамилия не имеет тюркских или иных иноязычных корней, как может показаться из-за необычного звучания: она чисто русская по словообразованию, хотя основа могла быть диалектной.

Есть и менее очевидная версия: связь с диалектным глаголом «кармукать» — говорить невнятно, бормотать. В этом случае прозвище Кармуха получил невнятно говорящий человек. Оба варианта правдоподобны, но первый, связанный с кормом и бытом, встречается в ономастической литературе чаще — он более прозрачен для крестьянской среды, где подобные прозвища были особенно распространены.

Фамилия могла возникнуть в северных или центральных губерниях России, где слово «кармуха» было в ходу. Встречается она и сегодня, но остаётся малочисленной: носителей Кармухиных можно найти в Поволжье и на Урале, что подтверждает миграционную историю русских крестьянских фамилий. Социально фамилия, скорее всего, крестьянская или мещанская — без дворянских приставок и сложных суффиксов, что указывает на происхождение из простонародья.