Фамилия Маркухин образована от крестильного имени Марк — через его уменьшительную форму Маркуха. В русской традиции суффикс -ух- в именах и прозвищах передавал оттенок снисходительной ласки или, реже, принадлежности к простонародной среде: Петруха, Ванюха, Маркуха. Соответственно, Маркуха — это «маленький Марк» или «Марк, которого ласково зовут». Фамилия, таким образом, относится к самой распространённой в России группе фамилий на -ин, которые образуются от основ на -а/-я: Маркуха — Маркухин — «чей?» — «сын Маркухи».

Интересно, что суффикс -ух- в русских фамилиях встречается заметно реже, чем -к- или -ш- (Маркин, Марков), что делает Маркухина фамилией с ярко выраженной разговорной окраской. В документах XVII–XVIII веков такая форма могла фиксироваться у крестьян и посадских людей — именно в этих сословиях бытовые уменьшительные имена долго сохранялись в качестве официальных. В дворянской среде предпочли бы более благозвучный вариант Марков.

Географически фамилия Маркухин тяготеет к центральным и южнорусским областям, особенно к Рязанской, Тамбовской и Воронежской губерниям. Встречается и на Урале, куда её могли занести переселенцы в XVIII–XIX веках. Иной версии происхождения — от прозвища Маркуха, связанного с диалектным словом «маркуха» (так в некоторых говорах называли неопрятную женщину или неряху), — придерживаться не стоит, так как фамилия образована от мужского имени, и суффикс -ин указывает на отчество, а не на женское прозвище.