Фамилия Герцензон — редкий для России случай, когда фамилия образована от женского имени, да ещё и с двойным суффиксальным оформлением. В её основе лежит немецкое женское имя Герца (Herza) — уменьшительная форма от Гертруда (Gertrud) или, реже, от Генриетта (Henriette). Первый суффикс -ц- (Herz-c-) — типичный для немецких уменьшительных форм, а второй — -зон (немецкое -sohn, «сын») — прямо указывает на происхождение: «сын Герцы». То есть Герцензон буквально означает «сын маленькой Гертруды» или «сын Герцы».

Такая модель — женское имя + -зон — характерна для ашкеназских еврейских фамилий, возникших в XIX веке на территориях Австрийской и Российской империй, особенно в черте оседлости. В отличие от патронимических фамилий на -ович или -ский, которые образовывались от имён отцов, здесь зафиксировано имя матери. Это могло быть связано с тем, что женщина была главой семьи, рано овдовела, или же имя отца по каким-то причинам не использовали в документе.

Корень Herz- (сердце) в немецком языке дал много фамилий: Герц, Герценберг, Герцфельд. Но Герцензон стоит особняком: это не топонимическая фамилия (от названия места), а чисто патронимическая (точнее, матримониальная), что сразу выделяет её среди однокоренных. В документах XIX века встречаются варианты написания: Герценсон, Герцонзон — из-за разного прочтения немецкого -tz- и путаницы суффиксов в канцеляриях.

Географически фамилия тяготеет к западным губерниям: Волынской, Подольской, Киевской, а также к Царству Польскому. В советское время носители фамилии расселились по крупным городам — Москве, Ленинграду, Одессе. Сословно предки чаще всего были мещанами или купцами, реже — ремесленниками. Дворянских корней у фамилии нет: она типично городская, из среды еврейского местечка.