Фамилия Карчёмовы хранит память о происхождении своих первых носителей. В основе фамилии лежит именование Карчем, которое восходит к финно-угорскому слову «карч» — «сучек», «коряга». Слово «карч» есть и в русском языке. Согласно словарю В. Даля, оно означает «коряга, корга, суковатый пень, ветвистый обломок, целое дерево с кореньями, подмытое и снесённое водою; замоина, замытое в песке под водою дерево, опасное для рыболовов и для судов».

Прозвище Карчем мог получить человек, занимавшийся сбором хвороста, продажей дров или выкорчёвыванием корней деревьев. Такая работа была тяжёлой, но необходимой в крестьянском хозяйстве, особенно в лесных регионах. Суффикс -ов указывает на типичную русскую модель образования фамилий: Карчем → Карчемов — сын Карчема.

Фамилия Карчёмовы представляет собой замечательный памятник финно-угорской культуры. Однако процесс формирования каждой отдельной фамилии был длительным и не всегда имел привязку только к одной местности. Окончательно говорить о точном времени и месте происхождения фамилии можно лишь на основании серьёзных генеалогических исследований, которые учитывают расселение родов и диалектные особенности.