Фамилия Шмараев образована от прозвища Шмарай, в основе которого, вероятно, лежит украинское прилагательное «шмаркий» - «прыткий, скорый». Скорее всего, так прозвали быстрого, проворного человека. По другой версии, прозвище Шмарай восходит к глаголу «шмарить» («шмаровать»), то есть «бить плетью, кнутом», «сечь», «стегать» или «опалять». Следовательно, Шмараем могли прозвать того, кто отличался жестким характером. Согласно еще одной, менее вероятной гипотезе, прозвище Шмарай связано с немецким словом Schmarre, что значит «шрам, рубец», и указывает на внешние особенности предка. Таким образом, потомок человека, обладающего прозвищем Шмарай, со временем получил фамилию Шмараев.