Фамилия Вертышева — женская форма фамилии Вертышев, и её разбор стоит начать с неочевидного: суффикса -ев, а не более привычного -ов. В русских фамилиях -ев появляется, когда основа оканчивается на мягкий согласный или на ц (как в случае с Воронцов — Воронцовев, но здесь другая история). У Вертышева корень заканчивается на шипящий -ш, после которого в старой орфографии и в диалектном произношении мог писаться и слышаться мягкий звук. Это косвенный указатель на северное или северо-восточное происхождение фамилии: в говорах Русского Севера, Вологодчины, Архангельской области шипящие часто смягчались, и фамилии на -ев от основ на -ш, -ж встречаются там чаще, чем в средней полосе.

Основа фамилии — прозвище Вертыш. Оно образовано от глагола «вертеться» или «вертать» (поворачивать, возвращаться) с помощью суффикса -ыш, который в русских прозвищах придавал значение активного деятеля или обладателя характерного признака. Вертыш — это не просто «тот, кто вертится», а скорее человек непоседливый, юркий, быстрый в движениях, возможно, суетливый или изворотливый. В диалектах слово «вертыш» могло означать и нечто конкретное: например, в некоторых говорах так называли небольшой водоворот или омут на реке, а также приспособление для вращения чего-либо. Прозвище могли дать и мельнику (по вращающемуся жернову), и бойкому торговцу, и просто человеку с живым характером.

Если рассматривать более редкую версию, фамилия могла возникнуть не от прозвища, а от неканонического имени Вертыш. В дохристианской и раннехристианской Руси такие имена-обереги (Вертимир, Вертигость, Вертыш) давали с пожеланием, чтобы ребёнок «вертелся» в жизни, то есть был живчиком и не давал себя в обиду. Однако эта версия менее вероятна: суффикс -ыш в именах встречается реже, чем в прозвищах.

Сравнение с однокоренными фамилиями — Вертипорох, Вертихвостов, Вертячих — показывает, что Вертышев стоит в ряду «вертких» фамилий, но отличается от них именно суффиксом -ыш, который придаёт прозвищу ласкательно-уменьшительный или даже слегка ироничный оттенок. В писцовых книгах XVI–XVII веков такая модель встречается у крестьян и посадских людей, а не у знати: Вертышевы, скорее всего, происходят из черносошных крестьян или ремесленников.

Спорных версий здесь немного, и главная — попытка вывести фамилию от названия населённого пункта Вертышево. Такие деревни есть в бывшей Смоленской губернии и на юге Псковщины. Но в этом случае фамилия должна была звучать как Вертышевский (по модели помещичьих фамилий на -ский/-цкий). Простая форма на -ев указывает на прозвищное, а не топонимическое происхождение. Так что предки Вертышевых — это, скорее всего, люди, получившие уличное прозвище за свою подвижность или профессию, и жившие на Русском Севере или в Поволжье, где мягкое произношение шипящих было нормой.