Фамилия Каневцовы, как и её мужская форма Каневцов, образована по типичной восточнославянской модели: к основе прозвища Каневец добавили патронимический суффикс -ов, означающий «сын» или «потомок». Таким образом, Каневцов — буквально «сын Каневца». Редкость фамилии — в суффиксе -ец, который указывает на принадлежность к местности: так же образованы фамилии Ростовцев, Тамбовцев, Могилёвцев.

Прозвище Каневец, скорее всего, получил выходец из города Канев на Черкащине. Канев — один из древних городов Руси, основанный, по преданию, в XI веке при Ярославе Мудром. В летописях он мелькает с 1144 года, и вплоть до конца XII века был важным пунктом на пути «из варяг в греки» и опорным городом в борьбе с половцами. Человек, переселившийся из такого значимого центра в другую местность, легко получал прозвище по месту прежнего жительства — Каневец.

Название самого города Канев, по одной из версий, связывают с прозвищем Каня. Каня — народное название хищной птицы канюка или сарыча, которая известна своим жалобным, тягучим криком. В древнерусских говорах прозвище Каня могло даваться человеку с плаксивым голосом или печальным нравом — и уже от этого личного имени могло пойти имя города, а затем и фамилия. Впрочем, топонимическая версия (от названия города) для фамилии Каневцов выглядит более прямой и правдоподобной: основная масса таких фамилий появлялась именно как указание на географическое происхождение предка.

Фамилия Каневцовы — нечастая, но её структура прозрачна: она недвусмысленно говорит о том, что родоначальник был «каневцем», то есть человеком с берегов Днепра, из старинного города с богатой историей.