Фамилия Карюгин образована от прозвища или нецерковного имени Карюга. В основе лежит диалектное слово «каряга» — так в ряде русских говоров (особенно северных и сибирских) называли корявое дерево, корягу, а также сутулого, скрюченного человека. Исходное слово «коряга» с течением времени могло изменить гласную в корне под влиянием акающего произношения или народной этимологии, сблизившись с именем Карий (от тюркского «кара» — чёрный). Таким образом, прозвище Карюга мог получить либо человек с физическим изъяном (сгорбленный, негнущийся), либо тот, кто жил у корявого леса или обрабатывал такой участок земли.

Суффикс -ин указывает на принадлежность: Карюгин — «сын Карюги» или «человек из семьи Карюги». По модели образования это типичная «патронимическая» фамилия, но не от крестильного имени, а от прозвища. Встречается она преимущественно в центральных и северных областях России, что косвенно подтверждает связь с северорусскими говорами, где слово «каряга» было особенно употребительным.

В исторических документах фамилия зафиксирована с XVII века. В переписных книгах Вятского края и Устюга Великого упоминаются крестьяне Карюгины — это были в основном государственные или монастырские крестьяне, не дворяне. Более поздние записи XIX века встречаются в Тверской и Костромской губерниях. Дворянских родов с такой фамилией не отмечено, что говорит о её простонародном происхождении.

Стоит отличать Карюгина от однокоренных фамилий Корягин, Коряков, Карякин. Если Корягин напрямую от «коряги» (с сохранением корня), то Карюгин — результат звуковой перестройки, которая могла произойти в разных местах независимо. Фамилия редкая, её носители, скорее всего, потомки крестьянского или ремесленного сословия, живших в лесной местности.