Фамилия Розамасцев — редкая, составная, и её разбор сразу уводит в область прозвищ, а не в привычную модель «от имени отца». В ней два корня: «роза» и «мас(т)». Первая часть может указывать либо на цветок, либо на церковное имя Роза (в святцах нечастое, но встречавшееся у католиков и униатов), либо на прозвище по внешности — «румяный как роза». Вторая часть сложнее. Скорее всего, это искажённое «масть» — цвет шерсти животного или масть в картах. В русских говорах «масцев» могло быть прозвищем человека, который разбирался в лошадях по масти, или же картёжника. Таким образом, Розамасцев — это человек, которого прозвали «Роза-масть»: либо за яркий, приметный облик (розовый румянец и определённая масть волос), либо за пристрастие к розовым мастям в картах.

Суффикс -ев указывает на патронимическую модель: «чей?» — Розамасцев, то есть сын Розамаста. Окончание типично для русских фамилий центральных и северных губерний. Географию проследить трудно: фамилия нечастотна и не образует заметных гнёзд в современных базах данных. Возможно, она возникла в среде однодворцев или казачества, где прозвища с яркой образностью давали чаще, чем в крестьянской среде.

В ономастике сложные фамилии с первым компонентом-цветком (Розов, Розанов) обычно объясняют через семинарские или искусственные фамилии, которые давали в духовных училищах. Но Розамасцев не похожа на книжную — слишком конкретное, почти насмешливое прозвище. Скорее, это народное образование, где «роза» — не растение, а метафора цвета лица или характера. В словаре Б. Унбегауна «Русские фамилии» подобные составные прозвища с элементом «масть» не описаны, что подтверждает их исключительную редкость.

В написании возможны варианты: Розамасцев и Розамастцев (через «т»). Второй вариант этимологически прозрачнее (от «масть»), но первый закрепился в документах. Если ваши предки носили эту фамилию, стоит искать в метрических книгах формы с «т» — это поможет уточнить регион.