Фамилия Карлов — типичный пример русской фамилии, образованной от полного имени предка, в данном случае — Карл. Модель простая: имя + патронимический суффикс -ов, который отвечает на вопрос «чей?» и означает «сын Карла» или «потомок Карла». Если бы основой служило народное прозвище, а не имя, суффикс мог быть другим, но здесь всё прозрачно.

Имя Карл для русского именослова — чужеродное. В православных святцах его нет, поэтому носителями фамилии, скорее всего, стали потомки иностранца: шведа, немца, датчанина или выходца из другой страны, где имя Karl было обычным. В России XVIII–XIX веков это имя встречалось у обрусевших немцев, военных специалистов и мастеровых, приглашённых на службу. В дворянской среде имя Карл тоже было не редкостью, но фамилия Карлов могла возникнуть и в крестьянской или мещанской среде — если помещик или барин звал своего человека по имени, а дети уже пошли по фамилии.

Один из самых известных следов фамилии — в истории русского двора. Наталия Фёдоровна Карлова (1858–1921), фрейлина великой княгини Екатерины Михайловны, стала морганатической женой герцога Георга Мекленбург-Стрелицкого. Её фамилия — не случайность: отец, Фёдор Карлов, был сыном обрусевшего немца. Этот случай показывает, как фамилия, образованная от иноземного имени, могла звучать вполне по-русски и не мешать её носительнице войти в высший свет.

В отличие от фамилий на -ин (от основ на -а/-я), форма Карлов не оставляет сомнений в том, что основа мужского рода и склоняется по образцу притяжательных прилагательных. Географически фамилия встречается по всей России, но заметных локальных гнёзд не образует — что тоже говорит о её «пришлом» происхождении: носители расселялись вместе с волнами миграции иностранных специалистов.