Фамилия Истоминаи — редкий случай, когда написание подсказывает происхождение точнее, чем звучание. Окончание -и, а не типичное -а, прямо указывает, что перед нами не стандартная русская фамилия в именительном падеже, а форма родительного или предложного падежа. В русской ономастике так закрепились фамилии, образованные от прозвищ или имен в форме множественного числа, чаще всего в среде однодворцев и в некоторых северных говорах. Истоминаи — это буквально «из семьи Истоминых» или «живущие у Истомина», что со временем и стало фамилией.

Основа та же, что и у распространенной фамилии Истомин, — неканоническое имя Истома. В Древней Руси так называли человека, который часто жаловался на усталость, хандрил или был медлительным. Имя было популярным: в документах XV–XVII веков встречаются Истома Безобразов, Истома Шевелев, Истома Осипов. Суффикс -ин в основе указывает на принадлежность: Истомин сын, то есть сын Истомы. В варианте Истоминаи к этой основе добавился падежный формант, который «застыл» в фамилии.

Такая модель образования — через усеченную форму родительного падежа множественного числа — характерна для фамилий южнорусского региона, особенно для Курской, Орловской, Тульской губерний, где селились однодворцы. Они нередко сохраняли архаичные формы: вместо «Истомин» говорили «Истоминаи» (с ударением на второй или последний слог). Встречается этот тип и у староверов, переселявшихся на Урал и в Сибирь, где фамилия могла закрепиться в документах именно в такой записи.

Аналогов по словообразованию немного: Бреховаи, Жилинаи, Седоваи. Все они несут ту же падежную «застывшую» форму. Если носитель фамилии Истоминаи ищет свои корни, стоит обратить внимание на переписи однодворцев и ревизские сказки южных губерний России, а также на метрические книги старообрядческих общин — именно там вероятность найти предков с таким написанием наиболее высока.