Фамилия Рутберг относится к числу ашкеназских фамилий, сложенных из двух корней, и в этом её главная отличительная черта. В отличие от распространённых фамилий-аббревиатур вроде Кац (сокращение от «коhэн цэдэк» — «праведный коэн») или фамилий с типичными формантами вроде -ман, -сон или -ер, Рутберг построена по модели, которая буквально переводится как «красная гора» или «гора Рута». Первая часть, Рут-, восходит к немецкому rot («красный») или к женскому имени Руфь (Рут), а вторая, -берг, означает «гора». Такой тип сложения двух основ особенно характерен для фамилий, возникших в среде немецкоязычных ашкеназов, и часто указывает на место, откуда человек был родом, — например, на город или местность с названием Ротенберг или Рутберг.

Если принимать версию о цвете, то фамилия могла возникнуть как указание на проживание у холма с красноватой почвой или породой. Если же за основу взято имя Рут, то перед нами фамилия-патроним, но с необычным оформлением: вместо привычного «сын такого-то» (как в -сон или -бейн) здесь использован географический суффикс. Вторая версия правдоподобнее для случаев, когда фамилию носили женщины-родоначальницы, но в целом обе гипотезы имеют право на существование, и без генеалогических данных конкретной семьи выбрать одну сложно.

Интересно, что фамилия Рутберг не получила широкого распространения, что отличает её от массовых фамилий, образованных через форманты -ман или -ский. Она осталась точечной, локальной, и это делает её своеобразным маркером: носители такой фамилии, скорее всего, происходят из небольшого числа семей, живших в Центральной или Восточной Европе, в зоне немецкого культурного влияния. В отличие от горских евреев Кавказа, которые заимствовали грузинский суффикс -швили («дитя»), или евреев Израиля с суффиксами -ис/-ес и приставкой бен-, ашкеназы, носившие фамилию Рутберг, сохранили чисто немецкую словообразовательную модель, что говорит о глубокой интеграции их предков в немецкоязычную среду.

В написании фамилии встречаются варианты: Рутберг, Руттенберг, Ротенберг. Последний вариант более частотен и прозрачен по этимологии, тогда как Рутберг выглядит как его сокращённая или видоизменённая форма. Возможно, первоначальная фамилия звучала как Ротенберг, а со временем, при переезде в другую страну или в ходе канцелярских записей, утратила слог. Такие трансформации типичны для еврейских фамилий, которые нередко записывались со слов носителя и потому варьировались от документа к документу.