Фамилия Харкимов восходит к арабскому слову «харка», которое переводится как «воин» или «наступление». Согласно этому, можно предположить, что основатель рода Харкимовых был воином. По другой версии, в основе этой фамилии лежит хазарское слово «харк» – «дань, налог». В таком случае, Харкимом могли прозвать сборщика податей, дани.