Фамилия Гитерман — типичный пример ашкеназской фамилии, составленной по немецкой словообразовательной модели из двух корней. Её основа — прозвище, которое складывается из двух частей: первая, «гитер», восходит к идишскому слову hiter — «защитник» (от глагола hitn — «защищать»), а вторая, «ман», — к немецкому Mann («человек, мужчина»). Таким образом, буквальное значение прозвища — «человек-защитник», что почти наверняка указывает на род занятий предка: он мог быть охранником, сторожем или телохранителем.

Такая двухосновная модель — «корень занятия + Mann» — была очень распространена среди еврейских фамилий, которые массово закреплялись в Австро-Венгрии, Пруссии и Российской империи в конце XVIII — начале XIX века. Сравните с другими примерами того же типа: Вейценбаум («пшеничное дерево»), Зауэрштром («кислый поток»), Левенфиш («рыба-лев»), Цигенбаум («козье дерево») или Квечман (от kvetshn — «высказываться неохотно»). В отличие от этих более метафоричных или даже курьёзных имён, Гитерман — прозрачное «профессиональное» именование, без намёка на иронию или украшение.

Важно, что вторая часть фамилии — «ман» — не является здесь еврейским суффиксом, а именно полнозначным словом «человек», поэтому фамилия не склоняется по типу русских фамилий на -ман (как, например, Цукерман или Фишман). В документах Российской империи её часто записывали через «е» — «Гитерманъ», что отражает ашкеназское произношение гласной в первом слоге. Географически фамилия встречается преимущественно в записях XIX века на территории современных Украины, Беларуси и Польши — регионов, где идиш был языком повседневного общения еврейского населения.

Других версий происхождения, например от славянского корня или от немецкого личного имени, нет: основа «гитер» в славянских языках отсутствует, а в немецком слово hiter как самостоятельное имя не фиксируется. Так что версия с «защитником» — единственная обоснованная.