Фамилия Земцовы (или Земцов в мужском роде) образована по стандартной модели восточнославянских фамилий с суффиксом принадлежности -ов. Она буквально означает «сын Земца» или «потомок Земца». Суффикс указывает, что фамилия закрепилась в центральных и северных русских землях, где эта модель была основной.

В основе фамилии лежит прозвище Земец. В старорусском языке слово «земец» имело два основных значения, и оба могли дать начало фамилии. Первое — социальное: земцем называли крестьянина, имевшего собственный надел земли, в отличие от безземельного бобыля. Второе — профессиональное: в некоторых говорах (особенно в южнорусских областях) «земец» означало пасечника, пчеловода. Пчеловодство было тесно связано с землепользованием и бортничеством, поэтому оба значения могли пересекаться.

Самая известная историческая фигура с этой фамилией — Михаил Григорьевич Земцов (1688–1743), один из первых русских архитекторов, работавших в стиле раннего барокко. Он участвовал в строительстве Петергофа, Царского Села, Аничкова дворца, а в 1742 году получил чин полковника и возглавлял собственную архитектурную «команду». Его происхождение не связано с крестьянским или пасечным прозвищем: Земцовы в среде служилых людей могли получить фамилию от географического названия или иного прозвища, но в его случае прямая связь с прозвищем Земец не прослеживается.

Не стоит думать, что фамилия обязательно указывает на одно из этих занятий. Прозвище Земец могло закрепиться за человеком по любому из признаков — владение землёй, работа на пасеке или даже ироничное прозвище. В разных регионах фамилия могла возникать независимо. Точное время и место её появления для конкретной ветви можно установить только через архивные разыскания.