Фамилия Ремжов образована от гидронима Ремжа, небольшой реки, протекающей в Ростовской области. Само название Ремжа финно-угорского происхождения. Очевидно, оно восходит к двум основам: «рем-», что значит «шум», и «кша» («-жа», «-га») – «река». Таким образом, название Ремжа может переводиться как «шумная река». Возможно, прозвище Ремжа получил человек, некогда проживающий неподалёку от реки Ремжи.