Фамилия Кармова — женская форма фамилии Кармов, и её происхождение неочевидно. В русской ономастике нет единого мнения об основе, но наиболее вероятных версий две, и обе связаны с прозвищами или адаптацией иноязычных корней.

Первый вариант — от тюркского слова «карма» (в ряде тюркских языков — «воровство» или «кража»). В таком случае прозвище Карм мог получить человек, уличенный в нечестности, или, напротив, тот, кто ловил воров. Модель образования типична для русских фамилий: прозвище плюс суффикс -ов. Однако стоит учитывать, что в некоторых диалектах «карма» означала «кошель» или «мешок», что тоже могло стать прозвищем торговца или запасливого человека.

Вторая версия — от личного имени Карм, которое встречается у осетин и некоторых народов Кавказа. В осетинском «карм» переводится как «тепло», «жар» — возможно, так называли темпераментного или сердечного человека. Фамилии на -ов у осетин нередки, и в этом случае Кармовы — русифицированный вариант осетинской фамилии. Подтверждением служит географическая привязка: фамилия Кармов (и Кармова) чаще встречается в регионах с тюркским и кавказским населением — в Поволжье, на Северном Кавказе, в Закавказье.

Суффикс -ов указывает на типичную для XIX века модель образования русских фамилий от основ, не имевших окончания на согласный. Это говорит о том, что фамилия оформилась в русскоязычной среде, даже если корень иноязычный.

Спорных гипотез две: от греческого «карма» (судьба, карма) — маловероятно, так как это санскритский термин, нехарактерный для русского быта; и от слова «карман» — сокращение маловероятно, так как фамилии от «карман» образовывались иначе (Карманов, Карманников). Таким образом, тюркское или осетинское происхождение — самые правдоподобные варианты.