Фамилия Вертепа — редкий случай, когда прозвище перешло в фамилию почти без изменений, сохранив исходное ударение и окончание. В основе лежит слово «вертеп», но не в его современном значении «притон», а в старом, народном: так называли большой двухъярусный ящик для рождественского кукольного театра. Внутри разыгрывали сцены из Евангелия, и владелец такого ящика — кукольник, а часто и актёр, и режиссёр в одном лице — получал прозвище Вертепа. Фамилия закрепилась за его потомками.

Обратите внимание на окончание -а: это не типичный русский суффикс принадлежности (-ов, -ин), а застывшая форма именительного падежа. Такая модель встречается у фамилий украинского, белорусского или южнорусского происхождения, где прозвище на -а не склонялось по образцу отчества, а передавалось напрямую. Географически фамилия тяготеет к западным и южным областям — Черниговщине, Полтавщине, Брянщине, где вертепная традиция была особенно сильна.

В словарях русских фамилий (например, у Б. Унбегауна) «Вертепа» не упоминается как распространённая — это скорее локальная, редкая фамилия. Её носители, вероятно, происходили из среды бродячих артистов или ремесленников, делавших кукол и ящики. Вторая, менее вероятная версия связывает прозвище с диалектным «вертеп» в значении «пещера» или «овраг», но для фамилии кукольная версия убедительнее: она конкретнее и объясняет, почему прозвище выделяло человека среди односельчан.