Фамилия Каркавин образована от прозвища Каркава. По одной из версий, оно ведет свое начало от глагола «каркать». В данном случае, надеясь иметь доброго, отзывчивого мальчика, родители назвали его Каркава. По другой гипотезе, прозвище Каркава восходит к белорусскому глаголу «каркаваць» — «закупоривать (бутыль)». Однако так иронически могли называть и любителя хмельных напитков. Таким образом, потомок человека, обладающего прозвищем Каркава, со временем получил фамилию Каркавин.