Фамилия Карюхина, скорее всего, образована от прозвища Карюха. В его основе лежит прилагательное «карий», которое восходит к древнетюркскому qara — «черный». Скорее всего, Карюхой называли черноволосого, смуглого человека. В словаре С. Б. Веселовского встречаются родственные прозвища: Фома Карий (крестьянин, 1545 г., Новгород), князь Федор Андреевич Карий Елецкий (середина XVI века), Семен Васильевич Карего (приказный дьяк, 1660 г.).

Прозвище Карюха закрепилось за человеком как обиходное именование, а затем легло в основу фамилии. Модель образования типична для русских фамилий: суффикс -ин указывает на принадлежность — «чей?» — «сын Карюхи». Форма Карюхина — женский вариант, но в историческом контексте фамилия в мужском роде звучала как Карюхин. Потомок человека с прозвищем Карюха со временем и получил фамилию Карюхин, которая по сей день хранит память о внешности или прозвании предка.