Фамилия Крахматов хранит память о тюркском или арабо-тюркском имени, которое легло в её основу. Исходное личное имя — Крахмат, которое, скорее всего, является фонетическим вариантом более полного имени Карахмат. Это составное имя складывается из двух частей. Первая — «кара», что в тюркских языках означает «чёрный», «тёмный», «вороной» (масть). Вторая часть восходит к арабскому имени Ахмад, которое переводят как «достойный похвалы», «знаменитый», «прославленный», а также как «верящий в единого Аллаха», то есть «мусульманин».

Таким образом, имя Карахмат (а затем и его сокращённая форма Крахмат) могло означать «чёрный Ахмад» или «тёмный прославленный». Такие двусоставные имена с компонентом «кара» были распространены у тюркских народов и нередко несли не цветовую характеристику, а усилительное значение (сравните с именами Карабай, Карахан).

Фамилия образована по русской модели: к основе Крахмат- добавился типичный фамильный суффикс -ов, указывающий на принадлежность. В буквальном смысле Крахматов — это «сын Крахмата», потомок человека, носившего это имя. Географически фамилия тяготеет к южным регионам России и Поволжью, где были сильны тюркские влияния. Встречаются и однокоренные фамилии, например, Карахматов, Карахметов, Крахмалёв, но последняя, вероятно, имеет другую, «крахмальную» этимологию.