Фамилия Климоновы (в мужском варианте — Климонов) образована от имени, которое носил предок. В основе лежит церковное имя Климентий (из греческого: «милостивый» или «виноградная лоза»), но не напрямую, а через его просторечную, народную форму — Климон. Такая модель типична для русских фамилий: брали не полное календарное имя, а его повседневный, бытовой вариант, который и закреплялся в роду.

Словообразовательный суффикс -ов указывает на принадлежность: Климонов — буквально «сын Климона» или «из дома Климона». Фамилия относится к самому распространённому типу русских фамилий-отчеств, которые массово оформлялись в XVI–XVII веках. Написание с двумя «н» — Климонов — не ошибка, а особенность передачи имени Климон в письменных источниках (двойное «н» могло возникнуть под влиянием полной формы Климентий или как вариант народного произношения).

Точное место и время возникновения фамилии определить сложно: процесс становления фамилий у крестьян и мещан растянулся на столетия. Однако география бытования подсказывает, что фамилия чаще встречается в центральных и южных регионах России, где имя Климон было особенно употребительно. В отличие от фамилий Клементьев или Климентьев, форма Климонов — более простонародная, «деревенская», что может указывать на происхождение предков из крестьянской или посадской среды.