Фамилия Еремица образована от мужского крестильного имени Иеремия, которое в переводе с древнееврейского означает «возвышенный Богом». В русском языке это имя закрепилось в просторечной форме Ерема, а фамилия пошла не от полной церковной, а именно от народной, обиходной версии. Суффикс -ица в фамилии редок: он встречается в основном в белорусской и западнорусской традиции, где указывал на принадлежность человеку по имени или прозвищу. Так, Еремица — буквально «сын Еремы» или «человек Еремы».

Скорее всего, основатель рода был человеком из простого сословия. Фамилии на -ица в крестьянской среде нередко фиксировали прозвище отца или его ремесло, а не знатное происхождение. В отличие от фамилий на -ов/-ев или -ин, которые массово давались в центральной России, форма Еремица характерна для территорий, где смешивались русские, белорусские и украинские говоры — например, для Смоленщины, Брянщины или Псковской земли.

Сама фамилия сохранила архаичную словообразовательную модель: в ней нет «притяжательного» суффикса, а есть суффикс, напрямую превращающий имя в фамилию. Это встречается у фамилий, возникших не через отчество (Еремин), а через прозвище (Еремица). Такая форма — редкий пример того, как народная речь закрепила имя в неизменном виде, не подгоняя его под стандартные патронимические шаблоны.