Фамилия Чемаркин образована от прозвища, и её основа, скорее всего, связана с диалектным словом, а не с литературным языком. В основе лежит слово «чемар» или «чемара». В южнорусских и украинских говорах «чемарой» называли верхнюю мужскую одежду, что-то вроде суконного кафтана или армяка. Соответственно, Чемарой или Чемаркой в народе могли прозвать портного, который такую одежду шил, либо человека, который её постоянно носил и выделялся этим.

Модель образования типична для русских фамилий: к основе на -а добавился притяжательный суффикс -кин, указывающий на принадлежность потомку человека по прозвищу Чемарка. Суффикс -ин (в форме -кин) характерен для фамилий, образованных от слов женского рода или от уменьшительных форм на -ка. Таким образом, Чемаркин — «сын Чемарки» или «человек из семьи Чемарки».

Есть и другая, менее вероятная версия: связь с тюркским корнем «чемер» (кожа, ремень). В этом случае прозвище могло относиться к кожевнику или шорнику. Однако для русского ономастикона связь с одеждой выглядит более естественной, так как слово «чемара» фиксируется в диалектах и в исторических документах, а фамилии на -кин от названий одежды встречаются часто (например, Шапкин, Тулупкин, Кафтанкин).

С географией фамилии всё яснее: Чемаркины исторически концентрируются на юге России, в областях бывшего расселения чернозёмных губерний — Тамбовской, Воронежской, Рязанской. Там и сейчас фамилия встречается чаще, чем в среднем по стране. Это подтверждает связь с южнорусской диалектной лексикой. Сословное происхождение, скорее всего, крестьянское или однодворческое, без указания на дворянство.

Не стоит путать Чемаркина с фамилией Чемерин — та образована от другого корня (череда, растение «череда» или «черемис»). Чемаркин же — это фамилия-прозвище, которая прямо указывает на занятие или внешнюю примету предка, и её значение прозрачнее, чем кажется на первый взгляд.