Фамилия Каргополовы — один из тех случаев, когда фамилия прямо указывает на родину предка. В основе лежит название города Каргополь на юге Архангельской области. Человек, переселившийся из этих мест в другую местность, получал прозвище Каргопол — «выходец из Каргополя». От этого прозвища и образовалась фамилия по стандартной модели: Каргопол + -ов.

Само название города старше фамилии на несколько столетий. В летописях Каргополь впервые упоминается в XIV веке, хотя поселение существовало и раньше. Этимология топонима не славянская, а финно-угорская, что логично для земель, где издавна жили вепсы и карелы. Наиболее убедительная версия разбивает слово на две части: финское karhu — «медведь» и puoli — «сторона, половина». Получается «Медвежья сторона» — образ, характерный для лесного Севера. Вторая, менее популярная гипотеза, выводит первую часть из karja — «скот», то есть «скотная сторона», но она уступает «медвежьей» по частотности в научных работах по топонимике.

Исходное прозвище Каргопол не было личным именем или характеристикой человека — это чисто географический идентификатор. Носитель фамилии Каргополов — потомок того самого «каргопольца», который уехал из родного города и осел в другом краю. Фамилия бытует преимущественно на севере и северо-западе России, но встречается и в центральных областях, куда переселенцы уходили в поисках земли или по торговым делам.

В отличие от многих фамилий, где суффикс -ов- мог присоединяться к прозвищу, имени или профессии, здесь нет споров о значении основы: она однозначно топонимическая. Фамилия не имеет отношения к «полю» или «ловле» — это народная этимология, которую ономасты не поддерживают.