Фамилия Коваловы образована от прозвища Ковало, которое восходит к диалектному слову «коваль» — кузнец. В южных и западных регионах Руси, особенно на Украине и в Белоруссии, именно «коваль», а не «кузнец» было основным названием этой профессии. Прозвище Ковало закрепилось за человеком как употребительное бытовое именование, а затем легло в основу фамилии.

Словообразовательная модель здесь нестандартная. Обычно фамилии от профессий образуются напрямую: Кузнецов от «кузнец». В случае Коваловых основа — не «коваль», а «ковало». Суффикс -л- в прозвище мог придавать оттенок действия или свойства: ковало — тот, кто куёт, возможно, с оттенком пренебрежения или шутки, как «зубрило» или «горланило». Такая форма встречается реже, чем прямое «Коваль», и указывает на более конкретное, возможно, личное прозвище, а не просто обозначение ремесла.

Фамилия Ковалов — один из вариантов в ряду однокоренных: Ковалёв (самый частый, от «коваль»), Коваль, Ковальский, Коваленко. Коваловы географически чаще встречаются в южнорусских и украинских регионах, где диалектное «коваль» было в ходу, а форма на -ло — местной особенностью. В центральных и северных областях России преобладает фамилия Кузнецов.

Потомки человека с прозвищем Ковало, скорее всего, были связаны с кузнечным делом, но не обязательно напрямую: прозвище могло перейти по наследству, даже если сын не работал в кузнице. Окончательно говорить о точном времени и месте происхождения фамилии Коваловы можно лишь на основании серьёзных генеалогических исследований, но её основа ясно указывает на ремесленные корни и диалектную среду.