Фамилия Жемчужный образована от нарицательного «жемчуг». В. И. Даль в «Толковом словаре живого великорусского языка» определяет жемчуг как «самородные шарики, образующиеся в раковинах, причисляемые к драгоценным украшениям». Это слово и стало основой для прозвища, а затем и фамилии.

Вероятнее всего, прозвище Жемчужный относилось к «профессиональным» именованиям — так могли назвать ювелира, работавшего с жемчугом, или торговца драгоценностями. Однако есть и вторая версия: в основе фамилии могло лежать не прозвище по ремеслу, а мирское имя Жемчужный. В древности жемчуг считался символом красоты, избранничества и целомудрия. В Древнем Риме он олицетворял знатное происхождение, а в античной мифологии ожерелье из жемчуга было непременным атрибутом Венеры. Давая ребёнку такое имя, родители могли желать ему соответствующих качеств или высокого положения.

Фамилии с основой «жемчуг» фиксируются уже в XIV–XV веках. В труде С. Б. Веселовского записаны родственные именования: Иван Жемчугин, крестьянин (1564 г., Новгород), Прокофий Жемчужник, крестьянин (1495 г., Новгород), а также Иван Жемчужников, дворянин, пристав у черкасских князей (1584 г.). Это показывает, что прозвище бытовало в разных социальных слоях — и среди крестьян, и среди служилых людей.

Сама фамилия Жемчужный имеет форму притяжательного прилагательного с суффиксом -н-, отвечающего на вопрос «чей?». Такая модель типична для русских фамилий, образованных от прозвищ, но встречается реже, чем фамилии на -ов или -ин. Со временем потомки человека по прозвищу Жемчужный закрепили за собой эту фамилию, которая и дошла до наших дней, сохранив память о предке.