Фамилия Эрьзя стоит особняком в русском ономастиконе: она не образована от крестильного имени, прозвища или профессии. Её основа — самоназвание этнической группы мордвы, эрзян (эрзя). В отличие от большинства русских фамилий на -ов/-ев или -ин, фамилия Эрьзя представляет собой чистую основу без патронимического суффикса. Такая модель встречается редко и обычно указывает на позднее оформление фамилии или на её книжное, искусственное происхождение.

Слово «эрзя» (в старых источниках «ерзя», «арзя») фиксируется в русских летописях с XIV века как название племени, жившего на территории современных Мордовии, Нижегородской, Пензенской и Самарской областей. Сами эрзяне отличали себя от соседней группы — мокши — по языку и обычаям. Фамилия могла закрепиться за выходцем из этой среды в двух случаях. Первый: русский помещик или чиновник давал прозвание крестьянину-эрзянину по этническому признаку — «Эрьзя» или «Эрзянин». Второй: при переходе в православие и получении паспорта в XIX веке эрзянин мог записать фамилию по своей народности, особенно если не имел родового прозвища.

Вероятнее всего, фамилия Эрьзя не была массовой. В метрических книгах XIX века она встречается точечно — в селах бывшей Симбирской, Тамбовской и Нижегородской губерний, где исторически жили эрзяне. В отличие от фамилии Мордвинов, которая могла принадлежать и русскому дворянину, Эрьзя почти наверняка указывает на прямую связь носителя с эрзянским корнем. В советское время фамилия получила известность благодаря скульптору Степану Эрьзе (настоящая фамилия Нефёдов), который взял псевдоним в честь своего народа.

С точки зрения словообразования фамилия уникальна: она не склоняется как типичная русская фамилия на -а, что создает путаницу в документах. Носители фамилии Эрьзя могут столкнуться с тем, что в быту её пытаются «русифицировать», добавляя окончание -ов или -ин, хотя исторически правильная форма — именно Эрьзя.