Фамилия Монгустов — редкий случай, когда географический и этнический корень лежит на поверхности, но механизм образования фамилии неочевиден. Основа здесь — «монгуст», и это не искажённое название хищного млекопитающего (мангуста), а этноним. Монгустами в русской дореволюционной традиции называли монголов, точнее — ойратов, западную ветвь монгольских народов. Форма «монгуст» встречается в исторических документах XVII–XIX веков как вариант произношения слова «монгол» через тюркское посредничество: в тюркских языках конечное -л иногда переходило в -т, а русские писцы фиксировали услышанное.

Ключевая особенность фамилии — суффикс -ов. Он указывает на русский способ оформления фамилий: «Монгустов» буквально значит «сын монгуста» или «принадлежащий монгусту». То есть фамилия не монгольская по своей модели, а русская по форме, но образована от прозвища, данного по национальности предка. В отличие от фамилий на -ин (типа Монгустин), которые могли бы возникнуть от прозвища на -а/-я, суффикс -ов здесь стандартен для фамилий, произведённых от слов мужского рода с твёрдым согласным в основе.

География фамилии сужает поиск. Монгустовы — почти исключительно жители юга России, в первую очередь Калмыкии и соседних областей (Астраханская, Волгоградская, Ростовская). Это объяснимо: калмыки — потомки ойратов, которых в России долго называли «монгулами» или «монгустами». Прозвище «Монгуст» мог получить калмык или человек с монголоидными чертами среди русского населения, а его дети уже стали Монгустовыми. Встречается фамилия и у бурят, но реже — там более типичны фамилии на -ев (Монгуев, Монгушев).

Словообразовательный разбор прост: корень «монгуст» + суффикс -ов. Ударение, скорее всего, падает на второй слог: Монгу́стов. Вариант с ударением на первый слог (Мо́нгустов) возможен, но менее распространён в живой речи носителей.

Таким образом, предок Монгустовых — не обязательно знатный монгол. Скорее всего, это был человек, которого окружающие воспринимали как «монгуста»: либо по происхождению, либо по внешности. Фамилия закрепилась в среде казачества и крестьянства южных окраин России, где контакты с кочевыми народами были повседневностью. Никакого особого социального статуса она не несёт — это типичная «прозвищная» фамилия, каких тысячи в русском ономастиконе.