Фамилия Жемердей происходит от прозвища, которое связано с украинским словом «жемериння». В прямом значении это «шелуха», «выжимки», то есть остатки после отжима масла из семян подсолнечника, льна или других масличных культур. Скорее всего, прозвище получил человек, занятый в производстве или продаже растительного масла — либо тот, кто работал с отходами этого ремесла (например, использовал жмых на корм скоту). По второй версии, слово «жемериння» имело переносное значение — «вялый, бесхарактерный человек». Тогда прозвище могло закрепиться за медлительным или безвольным человеком.

Суффикс -ей в фамилии встречается редко. Он характерен для украинских и южнорусских прозвищных фамилий, образованных от существительных с уменьшительным или фамильярным оттенком. По сути, Жемердей — это форма вроде «Жемердя», то есть «сын или потомок человека по прозвищу Жемердя». Фамилия не получила широкого распространения, что говорит о её локальном, возможно, даже деревенском происхождении. В документах и переписях она почти не встречается, поэтому точную географию бытования установить трудно, но корни явно украинские или южнорусские.

Однокоренных фамилий немного. Можно вспомнить Жемеря, Жемеркин, но они образованы от той же основы иначе. Фамилия Жемердей осталась в той форме, в какой её записал писарь или закрепила устная традиция — без дополнительных суффиксов -ов или -ин, что для русских фамилий редкость. Это дополнительно указывает на украинское влияние, где патронимические формы на -ей встречаются чаще.