Фамилия Ковалов происходит от прозвища Ковало, а оно, в свою очередь, — от диалектного слова «коваль», то есть кузнец. Прозвище Ковало закрепилось за человеком, чья профессия или характер ассоциировались с кузнечным ремеслом, и со временем легло в основу фамилии. Потомок человека с таким прозвищем получил фамилию Ковалов.

Это типичная отпрозвищная фамилия, образованная по самой распространённой в русском языке модели: к основе на -о добавили суффикс -ов. Суффикс указывает на принадлежность: Ковалов буквально значит «сын Ковала» или «из рода Ковала». Интересно, что фамилия сохранила диалектную форму: литературное «кузнец» дало бы фамилию Кузнецов, а южнорусское и украинское «коваль» — Ковалёв. Вариант Ковалов с ударением на последний слог встречается реже, чем Ковалёв, и может указывать на региональные особенности произношения или фиксацию фамилии в документах именно в такой записи.

В ономастике фамилию Ковалов относят к группе так называемых «профессиональных» фамилий, хотя прямая связь с ремеслом необязательна: прозвище мог получить и ловкий, сильный человек, которого в шутку называли кузнецом. Поскольку кузнецы были уважаемы и нужны в любом селе, фамилии с корнем «коваль» — одни из самых частых в славянском мире, но вариант Ковалов остаётся заметно менее массовым, чем Ковалёв или Коваль.