Фамилия Клементовы имеет в своей основе мужское крестильное имя Клемент. Это одна из сокращённых, разговорных форм церковного имени Климентий. Само имя Климентий пришло на Русь вместе с христианством из Византии, а его греческая основа допускает два основных толкования: «милостивый» и «виноградная лоза». Оба значения связаны с положительными качествами, поэтому имя было распространено среди разных сословий.

Словообразовательная модель здесь простая и типичная для русского ономастикона: к основе «Клемент» добавили патронимический суффикс -ов. Такой суффикс указывает на принадлежность — буквально «сын Клемента» или «из рода Клемента». Со временем это отчество закрепилось как наследственная фамилия. Интересно, что фамилия сохранила именно форму Клементов, а не более привычную Климентов, что говорит о бытовании имени в народной, обиходной среде, где церковные формы часто упрощались.

В большинстве источников фамилия фиксируется с ударением на второй слог — Клеме́нтов. Встречаются и однокоренные фамилии: Клементьев (от полной формы Климентий через промежуточное Клементий), Клеменов, Клемин. Клементовы стоят в этом ряду особняком, так как их фамилия образована не от полного имени, а от его краткой, почти западноевропейской версии Clement, которая через польское или южнорусское влияние могла попасть в бытовой обиход.

О точном месте возникновения фамилии сейчас говорить сложно: процесс закрепления прозвищ и отчеств в качестве фамилий шёл несколько столетий, с XV по XVII век. Можно лишь предположить, что носители фамилии жили на территориях, где имя Клемент звучало привычно, — возможно, в южных и западных регионах России или среди казачества, где влияние польской и малороссийской традиции было сильнее. Фамилия эта — не слишком частая, но устойчивая, что делает её ценным свидетельством живого народного словообразования.