Фамилия Рымша балтийского происхождения. Скорее всего, она восходит к литовскому слову rimtis – «спокойствие, тишина». Подобную фамилию мог получить очень тихий, уравновешенный человек. Наиболее известный представитель данной фамилии – Рымша (Римша) Пятрас – скульптор, народный художник Литвы, создававший произведения социально-критического характера.