Фамилия Жемчужников — одна из тех, что образована от прозвища по роду занятий. В основе лежит слово «жемчужник», которое в старину означало мастера, работающего с жемчугом, или торговца этим камнем. Так могли назвать ювелира, купца или даже ныряльщика за жемчугом, хотя последнее для русских земель маловероятно. Фамилия закрепилась по типичной модели: прозвище Жемчужник плюс патронимический суффикс -ов, указывающий на принадлежность («чей?» — сын Жемчужника).

В «Ономастиконе» С. Б. Веселовского сохранились ранние письменные свидетельства. Прокофий Жемчужник упоминается как крестьянин в 1495 году в Новгороде. Там же, в Новгороде, в 1564 году записан крестьянин Иван Жемчугин — фамилия с тем же корнем, но иным суффиксом. А вот Иван Жемчужников, дворянин, фигурирует в документах 1584 года как пристав у черкасских князей. Эта запись важна: она показывает, что уже в XVI веке фамилия бытовала не только среди крестьян, но и в служилой среде.

Слово «жемчуг» пришло в русский язык из тюркских или китайского через посредничество, но на Руси его знали с глубокой древности. Прозвища от названий драгоценностей давали не только по профессии. Иногда за ними стояла внешняя примета (например, белые зубы) или ироничное сравнение. Однако для Жемчужникова рабочая версия — профессиональная — остаётся самой прямой и правдоподобной.