Фамилия Карчугин образована по одной из самых распространённых моделей русских фамилий — с помощью суффикса -ин, который указывает на принадлежность: «чей сын?» — Карчугин, то есть сын Карчуги. В основе лежит прозвище или нецерковное имя Карчуга.

Что могло значить это слово? В русских говорах «карчуга» — это коряга, пень, вывороченный с корнем, или затонувшее дерево. Прозвище Карчуга могли дать человеку коренастому, крепкому, либо угрюмому и «замшевшему», как старый пень. Сравните с фамилией Корчагин, которая восходит к тому же корню «корч» (пень, коряга) — разница лишь в огласовке и суффиксе. Вторая версия связывает основу с диалектным глаголом «карчить» — гнуть, корчить, то есть Карчуга — человек, который горбится или сутулится.

Менее вероятно, но стоит упомянуть, что в некоторых говорах «карчуга» означала небольшую лодку-долблёнку, выдолбленную из цельного ствола. В этом случае прозвище могло относиться к лодочнику или перевозчику, но эта гипотеза слабее, так как основное значение всё же связано с корягой.

Географически фамилия тяготеет к центральным и северным областям России, где слово «карчуга» было в ходу. Встречается она нечасто, что говорит о её локальном происхождении — скорее всего, предок Карчугин жил в одной деревне или волости, и прозвище закрепилось за его родом без широкого расселения.

Сословный состав носителей фамилии типичен для крестьянской среды: во времена закрепления фамилий (XVII–XIX века) прозвища, связанные с внешностью или характером, чаще всего получали простые люди, а не дворяне. В списках однодворцев и государственных крестьян южных губерний Карчугины тоже встречаются, что подтверждает их непривилегированное происхождение.