Фамилия Монтоев — редкая и неочевидная с точки зрения происхождения. Её основа, суффикс и география бытования заставляют искать корни не в великорусских говорах, а в языках народов Поволжья и Урала.

Словообразовательная модель фамилии — патроним на -ев/-ов. Суффикс -ев указывает на то, что основа оканчивалась на мягкий согласный или на [й]. В русской традиции такие фамилии образуются от имени или прозвища отца: «чей?» — Монтоев, то есть сын Монтоя. Основа «Монтой» (или «Монтей») — не славянская. Самое правдоподобное объяснение: она восходит к мордовскому (эрзянскому или мокшанскому) мужскому имени Монтой, которое, в свою очередь, связано с древним личным именем Монтя — уменьшительной формой от Моня, Монька. В эрзянском языке «мон» означает «я», но в составе имени это скорее элемент, не имеющий прямого перевода, или заимствование из тюркских языков, где «мон» (мөң) — «вечный, бессмертный». Вторая версия, менее вероятная, но обсуждаемая в ономастике, — связь с тюркским корнем «мон» (беда, страдание, горе) или с именем Монгол (тогда Монтоев — искажённое Монголов). Однако для фамилий мордовского происхождения характерно именно окончание на -ев/-ов, а не на -ин, и фамилия Монтоев встречается прежде всего в Мордовии и соседних регионах — Нижегородской, Пензенской, Ульяновской областях. Это надёжная географическая привязка.

Таким образом, предок носителя фамилии Монтоев — скорее всего, мордвин (эрзя или мокша) по имени Монтой. Он мог быть крестьянином, бортником или охотником — типичные занятия коренного населения этих мест. Фамилия не указывает на дворянское или духовное сословие: она низовая, крестьянская, закрепившаяся в XIX веке после отмены крепостного права, когда у бывших государственных и помещичьих крестьян массово появились фамилии по отцу.

В написании возможны варианты: Монтоев и Монтеев, но первый — основной. Встречается также фамилия Монтяев, образованная от той же основы, но с другим суффиксальным оформлением.