Фамилия Каргаполова (и её мужской вариант Каргаполов) происходит от прозвища Каргапол, которое, в свою очередь, связано с названием старинного русского города Каргополь. Само название города имеет финно-угорские корни: от слов karhu — «медведь» и puoli — «сторона», то есть буквально «медвежья сторона». Таким образом, прозвище Каргапол мог получить либо выходец из тех краёв, либо человек, по поведению или внешности напоминавший медведя — сильный, угрюмый или косолапый.

Суффикс -ов в основе фамилии указывает на типичную русскую модель образования: «чей?» — потомок Каргапола. Женская форма Каргаполова — это притяжательное прилагательное, закрепившееся как фамилия за дочерью или женой носителя прозвища.

В отличие от более распространённых фамилий на -ин или -ский, Каргаполовы встречаются не повсеместно, а сконцентрированы в северных и уральских регионах России, что подтверждает связь с Каргопольем — исторической территорией в Архангельской области. В писцовых книгах XVI–XVII веков нередко упоминаются крестьяне и посадские люди с этим прозвищем, что говорит о его бытовании в среде черносошного крестьянства и ремесленников Русского Севера.

Сейчас фамилия нередко искажается в написании: путают «Каргаполов» и «Каргополов». Первая форма, с буквой «а» во втором слоге, закрепилась из-за акающего произношения — так, как слово звучало в живой речи. Вторая, «Каргополов», считается более книжной и этимологически точной, но встречается реже.