Представьте: марсоход бурит грунт, датчики анализируют образец, и бортовой ИИ с 99-процентной уверенностью докладывает — жизнь найдена. Сенсация, пресс-конференции, переписанные учебники. А потом выясняется: нейросеть приняла за живой организм случайную последовательность команд, которую ей скормили хитрые исследователи. Именно такой трюк провернули учёные из Университета штата Мичиган — и их результаты заставляют серьёзно задуматься о том, насколько мы готовы доверять алгоритмам в поиске внеземной жизни.

Ахиллесова пята искусственного разума

Анкит Гупта (Ankit Gupta) и Кристоф Адами (Christoph Adami) показали: современные нейросети, натренированные выискивать биосигнатуры, обмануть до смешного легко. Свои выводы они представили в августе на Конференции по искусственной жизни 2026 года в канадском Ватерлоо — и прозвучали они отрезвляюще. Проблема не в том, что ИИ иногда ошибается; проблема в том, с какой убийственной самоуверенностью он это делает.

«У ИИ есть ахиллесова пята, — поясняет Адами, профессор кафедр микробиологии и молекулярной генетики, а также физики и астрономии МГУ. — Он может увидеть паттерн и полностью его переклассифицировать». Иными словами, машина способна выдать ложный ответ с той же непоколебимой убеждённостью, с какой распознаёт котиков на фотографиях.

Цифровая жизнь в чашке Петри

Чтобы проверить уязвимость, исследователи не стали ждать реальных образцов с Марса или Энцелада. Они создали собственную вселенную — внутри компьютера. С помощью программы Avida, которую уже десятилетиями используют для изучения эволюции, Гупта и Адами сгенерировали десятки тысяч «цифровых организмов». По сути, это строки компьютерного кода, способные копировать себя в виртуальной чашке Петри. При каждом копировании происходят случайные сбои — мутации, — и код меняется, в точности как геном настоящих бактерий.

Часть этих цифровых созданий содержала инструкции для самовоспроизведения, часть — нет. На одних нейросеть учили отличать «живое» от «неживого», и на этапе обучения она достигла впечатляющей точности в 99,97%. Казалось бы, идеальный детектор жизни готов.

150 шагов до ошибки

А потом начались испытания на тех примерах, которых ИИ раньше не видел. Учёные брали заведомо «мёртвый» цифровой организм — тот, что нейросеть верно определяла как неспособный к репликации, — и начинали понемногу менять в его коде одну операцию за другой. Меняли вслепую, без какого-то хитроумного плана. И всего через 150 таких замен алгоритм вдруг «прозревал» и с высокой уверенностью заявлял: перед ним — живая структура.

«С какой бы последовательности команд мы ни начинали, нам удавалось обмануть ИИ в 100 процентах случаев», — говорит Гупта, аспирант кафедры компьютерных наук и инженерии МГУ. И число потенциально обманных последовательностей огромно. «Вероятность столкнуться с такой последовательностью весьма значительна», — добавляет Адами.

Почему это тревожит прямо сейчас

Казалось бы, цифровые организмы — абстракция. Но принцип уязвимости никуда не девается, когда речь заходит о реальных космических миссиях. Сейчас и в ближайшие годы NASA планирует отправить роверы для бурения марсианского грунта, зонды к спутникам Сатурна и Юпитера, телескопы для анализа атмосфер экзопланет. На многих из них будут стоять ИИ-датчики, которые прямо на месте должны решать: пахнет ли образец жизнью.

Однозначного биомаркера, который бы кричал «здесь была жизнь», не существует. Но есть универсальные признаки. «Один из них — жизнь должна кодировать информацию», — объясняет Адами. Обычно это цепочки молекул вроде ДНК, способные себя воспроизводить. Именно такие паттерны и выискивают алгоритмы. И именно их, как выяснилось, так легко подделать.

Риск ложных срабатываний — не теоретическая страшилка. Если бортовой ИИ марсохода примет случайный геологический узор за биосигнатуру, мы можем получить сенсационное объявление об открытии инопланетной жизни — с последующим мучительным опровержением. Адами называет эту уязвимость «очень серьёзной».

Человек в петле — и где его нет

Выход, по мнению исследователей, не в том, чтобы отказаться от ИИ в астробиологии, медицинской диагностике или на поле боя. «Нужен независимый способ проверки их работы, — говорит Адами. — В цепочке должен оставаться человек». Но именно этого часто и не происходит. Тот же датчик на марсианском ровере вынужден принимать решение автономно, до того как образцы вернутся на Землю.

И проблема шире поиска инопланетян. Та же ахиллесова пята актуальна для медицинских сканеров, камер наблюдения, беспилотных автомобилей — везде, где ИИ уже встроен в повседневность. Кстати, мы уже писали о том, как нейросеть с 99-процентной уверенностью приняла «мёртвый» код за живой, и нынешнее исследование — прямое продолжение той тревожной линии.

Что дальше

Пока Гупта и Адами экспериментировали с компьютерно-сгенерированными данными. Следующий шаг — переобучить модель на реальных, «живых» данных и посмотреть, насколько легко её будет обмануть теперь. Если результат окажется таким же отрезвляющим, конструкторам будущих межпланетных миссий придётся серьёзно пересмотреть архитектуру бортовых анализаторов.

А пока остаётся держать в уме простую мысль: когда очередной заголовок возвестит об открытии инопланетной жизни, стоит вспомнить про 150 случайных замен кода — и про ахиллесову пяту, которая может превратить величайшее открытие в самый громкий конфуз.