Представьте марсоход, который с абсолютной уверенностью шлёт на Землю сенсацию: найдена жизнь. Но его алгоритм, натренированный отличать живое от неживого, просто принял желаемое за действительное — ошибся, причём почти со стопроцентной убеждённостью. Именно такой сценарий смоделировали исследователи из Университета штата Мичиган, и их результаты заставляют задуматься, насколько мы готовы доверить искусственному интеллекту поиск внеземных биосигнатур в миллионах километров от дома.

Как ИИ учили видеть жизнь

Аспирант кафедры компьютерных наук и инженерии Анкит Гупта и его соавтор, профессор микробиологии, молекулярной генетики, физики и астрономии Кристоф Адами, использовали программу Avida — виртуальную среду, где «организмы» определены простым критерием: способностью к самокопированию. Цифровые сущности, которые умеют воспроизводить себя, считались живыми; те, что не умеют, — нет. На этих данных исследователи обучили систему ИИ, и в тестовых прогонах она достигла точности 99,97 процента. Казалось бы, идеальный детектор жизни.

Но затем учёные попытались обмануть алгоритм. Они взяли неживые фрагменты кода и начали вносить в них небольшие изменения, раз за разом подталкивая ИИ к тому, чтобы тот всё увереннее классифицировал эти фрагменты как живые. Процесс напоминал своеобразную селекцию: код, который казался алгоритму чуть более «живым», сохранялся и дорабатывался дальше. В итоге система с почти стопроцентной уверенностью признала многие из подделок живыми — хотя ни один из этих фрагментов никогда не демонстрировал репликации, единственного поведения, определённого как «жизнь» в этом виртуальном мире. Это перекликается с более ранним экспериментом, когда ИИ натренировали видеть жизнь там, где её нет.

Уверенность без понимания

«ИИ чрезвычайно точен, когда классифицирует что-то “обычное”, — пояснил Гупта. — Проблема возникает, когда ему предъявляют примеры, непохожие на привычные, и тогда он ошибается с полной уверенностью. С внеземной жизнью это гораздо более вероятно по очевидным причинам». Действительно, если уж натренированная на чётких критериях модель так легко поддаётся иллюзиям в контролируемой среде, что говорить о хаосе реальных данных с Марса или ледяных лун, где признаки жизни могут быть совсем не такими, как мы себе представляем.

Работа наглядно показывает: ИИ цепляется за паттерны в обучающих данных, не понимая фундаментальной сути того, что делает нечто живым. И эта уязвимость, предупреждают авторы, способна поставить под удар целые космические миссии, в которых умные приборы будут самостоятельно просеивать химические и визуальные данные в поисках заветных сигнатур.

Ставка NASA на машинное обучение

Между тем NASA и его партнёры активно вкладываются в проекты по обнаружению жизни с помощью ИИ, рассчитывая, что машинное обучение справится с гигантскими и сложными наборами данных, которые учёные никогда не смогли бы полностью проанализировать вручную. Предполагается, что в будущем алгоритмы будут помечать перспективные улики, а окончательное решение останется за человеком.

Один из таких проектов, финансируемый NASA грантом в 5 миллионов долларов, возглавляет Майкл Л. Вонг из Института Карнеги совместно с Калебом Шарфом из NASA. Их команда разрабатывает инструменты машинного обучения, которые должны выявлять паттерны жизни в сложных химических данных. Для обучения ИИ планируется использовать как минимум тысячу образцов — от метеоритов и горных пород до окаменелостей и живых организмов. Часть данных поступает с реальных приборов, включая масс-спектрометры, аналогичные тем, что уже летают на миссиях NASA. Алгоритм учится различать, как меняется смесь молекул, когда на материал воздействовала жизнь, и когда — простая физика и химия.

Жизнь, её подделки и слепые зоны

Вонг, ознакомившись с выводами мичиганской группы, не считает, что эксперимент вскрыл фатальную уязвимость ИИ-подходов. Его смущает способ создания поддельной жизни в исследовании. «Честно говоря, я не думаю, что всё так плохо, — заметил он. — Чтобы сгенерировать свои имитации жизни — свои подделки — им пришлось фактически провести естественный отбор, а это живой процесс. Я не знаю ни одной реальной физической среды, которая осуществляла бы такой отбор, предпочитая сущности, которые лишь выглядят как живые, но не делают ничего свойственного жизни».

Тем не менее работа заставила Вонга задуматься о том, какие именно примеры следует скармливать моделям для детекции жизни. Его группа намерена обучать ИИ не только на живых объектах, но и на останках и побочных продуктах жизнедеятельности — окаменелостях, органической слизи, отходах. Если модели будут натасканы лишь на идентификацию ныне живущих организмов, они не смогут распознать мёртвые, рассуждает он. А это способно создать гигантскую слепую зону, если Марс или другой мир хранит лишь химические следы давно вымершей биосферы. «Окаменелость — это свидетельство жизни. Как и стул, на котором я сижу, ведь такие вещи не возникают сами собой благодаря геологии, — говорит Вонг. — Окаменелость и мой стул не живые, но они — часть жизни, её продукт».

Когда ошибка оказывается прозрением

Команда Вонга и сама тратит уйму времени, пытаясь обмануть свои модели. И иногда алгоритм удивляет учёных, улавливая паттерны, которые люди поначалу проглядели. В одном из тестов система упорно твердила, что образец асцидии выглядит фотосинтезирующим, хотя эти морские животные не производят пищу из солнечного света. То, что сперва показалось ошибкой, оказалось совсем иным: асцидии часто содержат в своих тканях симбиотические водоросли, которые как раз используют фотосинтез. ИИ распознал химические отпечатки этих водорослей — деталь, упущенную исследователями.

Этот случай напоминает, что галлюцинации ИИ не всегда однозначны: иногда за ложной, на первый взгляд, классификацией скрывается реальный сигнал. И всё же мичиганская команда пока не готова доверять таким инструментам на борту космических аппаратов. Лаборатория Гупты и Адами работает над собственными методами машинного обучения, которые могли бы защититься от подобных трюков. «Можно и подождать, — резюмирует Гупта. — Очевидно, мы ещё не достигли нужного уровня».

Их работа будет представлена в августе на Конференции по искусственной жизни 2026 года в Ватерлоо, Канада. А до тех пор вопрос остаётся открытым: готовы ли мы рискнуть сенсацией, которая окажется всего лишь миражом в кремниевом мозге? В конце концов, если даже земные алгоритмы, натренированные на чётких определениях, так легко поддаются иллюзиям, то в поиске внеземного разума — где мы сами не всегда уверены, что именно ищем, — ставки могут оказаться слишком высоки.