Фамилия Герсимов — редкий случай, когда написание почти полностью скрывает исходную основу. Если произнести её вслух, сразу слышен вариант Гарсимов, и это ключ к разгадке. Скорее всего, перед нами не исконно русская, а заимствованная фамилия, адаптированная под русскую словообразовательную модель.

В основе почти наверняка лежит западноевропейское или тюркское личное имя. Самый вероятный кандидат — испанская или португальская фамилия Гарсиа (García), которая через устную передачу и влияние «акающих» говоров превратилась в Гарсимов, а затем и в Герсимов. В русской среде фамилии на -ов от иностранных корней образовывали по тому же принципу, что и от русских: Гарсиа + -ов = «потомок Гарсиа». Звук «а» в безударном положении легко заменялся на «е» в документах, особенно если писарь был из северных или центральных областей. Менее вероятна, но возможна связь с тюркским именем Герсим (от арабского «харим» — «благородный» или «священный»), но тогда фамилия была бы более частой в Поволжье.

Суффикс -ов указывает на отчество: Герсимов — буквально «чей?» — сын Герсима. Само имя Герсим в православных святцах не встречается, поэтому его появление в России — результат либо записи иностранного имени на слух, либо местного прозвища. В любом случае, носитель фамилии — потомок человека, которого в округе знали под иноземным именем или прозвищем Герсим (Гарсим). Сословно такие фамилии могли принадлежать как крестьянам (если имя принесли пленные или переселенцы), так и мелким служилым людям, если предок был выходцем из Западной Европы на русской службе.

Географически фамилия крайне редкая. В современных базах она встречается единично, чаще всего на юге России и в Москве. Это подтверждает версию о недавнем письменном закреплении: фамилия не успела широко разойтись. Есть и альтернативное объяснение: Герсимов может быть искажением фамилии Герсимовский (от польского или украинского топонима), но без суффикса -ский это выглядит как упрощение, а не исходная форма.