Фамилия Черемхов образована от прозвища или географического названия, а не напрямую от имени. В её основе лежит слово «черемха» — так в ряде говоров называли черёмуху. Человек мог получить прозвище Черемха за то, что жил у зарослей черёмухи, занимался сбором её ягод или имел какое-то отношение к этому дереву. Суффикс -ов указывает на принадлежность: Черемхов буквально означает «сын Черемхи» или «из рода Черемхи».

Модель образования типична для русских фамилий XIX века: от прозвища на -а/-я через притяжательное прилагательное. Интересно, что в отличие от фамилии Черёмухин, где суффикс -ин, здесь использован -ов, что говорит о мужском роде основы и, возможно, о более северном или восточном ареале бытования. Фамилия Черемхов встречается в Сибири и на Урале, где черёмуха — привычное растение, а топонимы Черемхово и Черемховский известны в Иркутской области. Это наводит на мысль, что часть носителей могла получить фамилию не от прозвища, а от названия места жительства — выходец из Черемхова или Черемховского района.

Ономастические словари, например работы Б. Унбегауна, относят такие фамилии к группе «ботанических», но без указания на единичный источник. Споров вокруг корня почти нет: черёмуха — прозрачная основа, и альтернативные версии, вроде связи с тюркским «черем» (в значении «вид рыбы»), маловероятны из-за отсутствия подтверждений в письменных источниках по русской антропонимии. Сословная принадлежность предков не зафиксирована в общих данных, но по распространённости фамилии можно предположить, что носители были из крестьян или мещан, а не из дворянства.