Фамилия Мамстова — женская форма фамилии Мамстов, и её разговорная, «уличная» основа сразу выделяется на фоне более типичных крестьянских фамилий. В русской ономастике фамилии на -ов/-ев образуются от личных имён, прозвищ или названий профессий, но здесь корень «мамст-» неочевиден. Самое правдоподобное объяснение — происхождение от прозвища Мамста, которое могло быть связано со словом «мамка» (кормилица, нянька) или с диалектным «мамыкать» — невнятно говорить, мямлить. В таком случае предок получил прозвище либо за мягкий, заботливый характер, либо за нечёткую речь.

Менее вероятная, но возможная версия — искажение исходной фамилии Мамонтова (от имени Мамонт) или Мамстова как варианта Мамстров (от «мастер» с утратой «р»). Однако для этого нет устойчивых диалектных подтверждений, а в переписях и ревизских сказках XIX века подобные переделки редки. Фамилия Мамстов встречается в основном в центральных и южных губерниях России — Тульской, Рязанской, Воронежской — что указывает на её крестьянское или мещанское происхождение.

В суффиксе -ов нет ничего необычного: так оформляли фамилии по отцу или главе семьи («чей?» — Мамстов). А вот сама основа остаётся редкой. В словарях русских фамилий (например, у Б. Унбегауна) прямого упоминания Мамстова нет, но по аналогии с фамилиями Мамкин, Мамыкин её можно отнести к «материнским» прозвищам — тем, что давали по имени или роли матери, что в патриархальной среде было редкостью и указывало на особые обстоятельства (например, воспитание одной матерью). Так что носительница фамилии Мамстова, скорее всего, потомок человека, которого в деревне знали как «Мамста» — и это прозвище закрепилось за целым родом.