Фамилия Климентов образована от крестильного имени Климент — краткой формы канонического имени Климентий. С греческого его переводят двояко: «милостивый» либо «виноградная лоза». Второе значение, скорее всего, связано с античным культом плодородия, но в народном сознании имя прочнее закрепилось как «милостивый» — из-за почитания святого Климента, папы Римского. Потомок человека с таким именем получал фамилию по отцу: чей? — Климентов, то есть «сын Климента».

Модель образования здесь самая распространённая в русской антропонимии: суффикс -ов присоединялся к основе имени, давая указание на родство. Такие фамилии в XV–XVII веках сначала закреплялись за боярскими и дворянскими родами, а затем — за крестьянами после отмены крепостного права. Однако в случае Климентовых интересна одна деталь: ударение. В одних семьях падает на первый слог (КлИментов), в других — на второй (КлимЕнтов). Это может говорить о разном происхождении: либо от полной формы Климент, либо от разговорной Клим, где суффикс -ов наращивался уже на усечённую основу.

По географии фамилия встречается по всей России, но заметно чаще — в центральных и южных областях, особенно в бывших казачьих землях. Там имя Климентий было популярно из-за святого Климента, покровителя воинов. Встречаются и варианты Климентьев, Климов, Клементьев — все они восходят к тому же корню, но через разные словообразовательные ходы. Климентов — самый прямой, без промежуточных суффиксов, что указывает на раннее закрепление в качестве отчества.

В ономастике нет единого мнения, считать ли Климентовых потомками духовенства или крестьян. Имя Климент носили и простые люди, и священники. Но суффикс -ов, а не -ский, чаще выдаёт мирское, а не церковное происхождение. То есть предки Климентовых, скорее всего, были не из духовного сословия, а из крестьян или посадских, получивших фамилию по имени отца.