Фамилия Кмитов образовалась от прозвища Кмит. Его основа — польское слово kmiec, которое означает «кметь». В старину в южных говорах так называли крестьянина, а также земского воина, ратника. Начиная с XII века на территории Украины слово «смерд» постепенно вытеснило слово «кметь», и именно последнее закрепилось в качестве наиболее употребительного именования для человека низшего сословия или воина-ополченца. Прозвище Кмит легло в основу фамилии Кмитов — так потомок человека с таким прозвищем со временем получил фамилию по отцу.

У этой фамилии редкий для русского ономастикона корень. Суффикс -ов указывает на типичную восточнославянскую модель образования: «чей?» — Кмитов, то есть сын или потомок Кмита. Само слово «кметь» — древнее заимствование из германских языков (через польское посредство), родственное готскому *gamait- «земледелец». В польской шляхетской традиции kmieć обозначал свободного крестьянина-землевладельца, а в украинских говорах — ещё и ратника, что придаёт фамилии двойной социальный оттенок.

Географически фамилия Кмитов тяготеет к западным и юго-западным регионам бывшей Российской империи — территории современной Украины, Беларуси и Польши. Встречается она нечасто, что объясняется локальным бытованием исходного прозвища. Сравните с однокоренными фамилиями: Кмит, Кмить, Кмитевич, Кмитович — все они восходят к тому же корню, но различаются суффиксальными оформлениями, характерными для разных регионов. Например, форма Кмитович типична для белорусской и польской традиции, а Кмитов — для украинской и южнорусской.