Фамилия Карюхин образована по одной из самых распространённых в русском языке моделей: от прозвища с помощью патронимического суффикса -ин. Суффикс указывает на принадлежность: «чей?» — Карюхин, то есть сын или потомок Карюхи. Основа здесь — прозвище Карюха.

Само прозвище Карюха, скорее всего, связано с прилагательным «карий» (цвет глаз или масть лошади). Слово «карий» восходит к древнетюркскому qara — «чёрный». Значит, прозвище мог получить черноволосый и смуглый человек или тот, у кого были карие глаза. Впрочем, в русской ономастике такие прозвища нередко давали и по масти лошади — если человек, например, держал карих коней или сам был приметен тёмным цветом волос.

В словаре С. Б. Веселовского «Ономастикон» зафиксированы родственные именования: Фома Карий (крестьянин, 1545 год, Новгород), князь Фёдор Андреевич Карий Елецкий (середина XVI века), а также Семён Васильевич Карего (приказный дьяк, 1660 год). Эти записи показывают, что прозвище было в ходу в разных слоях общества — от крестьян до служилых людей. Форма «Карего» — это родительный падеж от «Карый», что тоже говорит о бытовании такого прозвания.

Прозвище Карюха — уменьшительная или обиходная форма от «Карий». Суффикс -юха характерен для народной речи и часто придаёт прозвищу оттенок фамильярности или принадлежности к просторечию. Со временем это прозвище закрепилось как основное именование человека, а затем стало наследственным — фамилией Карюхин.

Таким образом, предок современных Карюхиных — человек по прозвищу Карюха, которого так назвали за внешность (тёмные волосы, смуглая кожа или карие глаза). Фамилия фиксирует его имя в форме притяжательного прилагательного и передаёт эту характеристику через поколения.