Фамилия Жмарев образована от прозвища или нецерковного имени Жмарь. В основе лежит древнерусский глагол «жмать» — то есть давить, сжимать, мять. В говорах слово «жмарь» означало человека, который жмется, скуповат или, наоборот, работящего, умеющего выжать максимум из дела. Прямое значение — «тот, кто жмет», могло относиться и к ремесленнику, например, к давильщику масла или сока, виноделу. В северных и центральных губерниях России «жмарить» значило также «теснить, притеснять», так что прозвище могло указывать на характер — настойчивый, требовательный, даже жесткий человек.

Суффикс -ев указывает на типичную русскую патронимическую модель: Жмарев — буквально «сын Жмаря». Фамилия образована по продуктивной схеме от основ на -арь, -ярь, где конечный мягкий согласный переходил в твердый перед суффиксом (Жмарь → Жмарев). Такая модель характерна для фамилий, возникших не позднее XVII века.

Географически фамилия тяготеет к северо-востоку России. По данным переписей XIX — начала XX века, Жмаревы чаще всего встречались в Вятской, Пермской и Костромской губерниях. Вятка и Прикамье — регионы, где было развито льноводство и маслоделие, что косвенно подтверждает версию о связи фамилии с ремеслом «жмаря» — того, кто выжимал масло или сок. В этих же местах слово «жмарь» фиксируется в диалектах именно в значении «скупой, прижимистый человек», так что оба толкования не противоречат друг другу.

В словаре Б. Унбегауна «Русские фамилии» модель на -ев от основ на -арь рассматривается как одна из распространенных, но для фамилии Жмарев автор не дает отдельного разбора, что говорит о ее региональной, а не общерусской распространенности. Известных исторических деятелей с этой фамилией нет, что типично для крестьянских и мещанских родов, не попавших в дворянские родословные книги.

В современном русском языке фамилия сохраняет ударение на первом слоге: Жмарев. Вариант с ударением на последнем слоге — Жмарёв — встречается реже и может указывать на южнорусское или украинское происхождение, где суффикс -ёв встречается чаще. Однако основная масса носителей — потомки вятских и пермских крестьян, чья фамилия закрепилась именно в форме Жмарев.