Фамилия Кареловы — одна из тех, что указывает на географическое происхождение предка. В её основе лежит прозвище Карел, которое, скорее всего, давали не этническому карелу, а переселенцу из Карелии. В центральных и южных русских землях такой человек был пришлым, «чужим» с северо-запада, и прозвище закреплялось за ним и его семьёй.

Словообразовательная модель проста и типична для русских фамилий: к основе «Карел» добавили патронимический суффикс -ов, означающий «сын Карела» или «из семьи Карела». По этой же схеме возникли фамилии Литвинов, Немцов, Греков — все они указывают на родину или народность предка, а не на его личное имя.

Версия о том, что Кареловы — потомки представителя финно-угорского народа, менее вероятна. Если бы предок был настоящим карелом, его на русской службе или в документах скорее записали бы по имени или отчеству, а не по этническому признаку. Прозвище «Карел» в XVI–XVII веках чаще получали русские крестьяне или посадские, которые перебрались из Карельского уезда или с берегов Онежского озера в более южные регионы — под Москву, в Поволжье или на Дон.

В написании фамилии встречается вариант «Кареловы» (множественное число, указывающее на род) и «Карелов» (единственное, мужская форма). Разницы в этимологии нет: оба варианта происходят от одного корня. Встречается и редкая форма «Корелов» — через «о»; это отражение исторического аканья или диалектного произношения, когда «Карелия» звучала как «Корела». В XVII веке так называли не только регион, но и одно из племён, жившее по берегам Невы.

Фамилия фиксируется в переписных книгах Северо-Запада и Центральной России, но особенно часто — в документах Тверской и Новгородской губерний, откуда как раз шли основные потоки переселенцев-карел. Встречается она и у староверов, что неудивительно: многие карелы-переселенцы придерживались старой веры и оседали обособленными общинами.

Говорить о точной дате возникновения фамилии сложно: массовый переход от прозвищ к наследственным фамилиям у крестьян завершился только к середине XIX века. Но отдельные упоминания «Кареловых детей» встречаются уже в писцовых книгах начала XVIII столетия.