Представьте: марсоход годами ползёт по красной пустыне, бурит камни, нюхает воздух, а его электронный мозг наконец‑то выдаёт долгожданный сигнал — «жизнь». Учёные ликуют, мир замирает. А потом выясняется, что искусственный интеллект просто принял желаемое за действительное. Не потому, что ошибся в расчётах, а потому, что его натренировали видеть жизнь там, где её нет. Именно такой сценарий, похоже, не такая уж фантастика — и виной всему фундаментальная уязвимость современных нейросетей, которую вскрыли исследователи из Университета штата Мичиган.

Докторант Анкит Гупта и профессор Кристоф Адами — специалист сразу по микробиологии, молекулярной генетике, физике и астрономии — решили проверить, насколько надёжен ИИ, когда дело касается самого тонкого вопроса: что живо, а что нет. Для эксперимента они взяли платформу Avida — виртуальную среду, где цифровые «организмы» существуют в виде фрагментов компьютерного кода. Эти программы умеют мутировать, копировать себя и бороться за процессорное время — в общем, ведут себя почти как живые, если считать способность к самовоспроизведению главным признаком жизни.

Тренировка на идеальных «организмах»

Задача перед алгоритмом стояла простая: отличить код, который умеет размножаться, от мёртвых последовательностей. И поначалу всё шло блестяще. В тестовых прогонах точность классификации достигла 99,97 процента — почти идеал. Казалось бы, ставь такую систему на марсоход и запускай. Но Гупта и Адами не остановились на достигнутом. Они решили обмануть собственное творение.

Учёные взяли «неживые» куски кода и начали методично их подправлять — раз за разом, шаг за шагом, пока алгоритм не начал смотреть на них с растущей уверенностью. Результат оказался отрезвляющим: после серии целенаправленных изменений ИИ с почти стопроцентной убеждённостью признал живые свойства у программ, которые никогда не демонстрировали единственного критерия жизни в этом цифровом мире — репликации. Они не копировали себя, но для машины выглядели так, будто только этим и занимаются.

Ахиллесова пята машинного разума

Корень проблемы, по словам Гупты, лежит в природе обучения нейросетей. Алгоритм великолепно справляется с типичными примерами — тем, что он видел в тренировочных данных. Но стоит подсунуть ему объект, выбивающийся из привычного ряда, и он начинает галлюцинировать с пугающей самоуверенностью. Специалисты называют это уязвимостью к «out-of-distribution»-образцам — данным, которые не похожи ни на что из обучающей выборки.

«Искусственный интеллект цепляется за шаблоны в тренировочных данных, не понимая по‑настоящему, что делает нечто живым», — поясняет Гупта. И если на Земле мы худо‑бедно представляем, с чем имеем дело, то при поиске внеземной жизни ставки взлетают до небес. Биология на других планетах может быть радикально иной — и полагаться на земные шаблоны попросту опасно. Любой марсианский организм, если он существует, почти гарантированно окажется тем самым «неудобным» примером, который собьёт ИИ с толку.

Кристоф Адами, со своей стороны, подчёркивает, что жизнь он определяет через способность кодировать и воспроизводить информацию. Именно такие универсальные маркеры, по его мнению, должны стать опорой для поисковых систем — ведь никто не знает, какую форму примет инопланетная биосфера.

Космические ставки

Предупреждение звучит особенно весомо на фоне того, как активно NASA и её партнёры вкладываются в проекты по обнаружению жизни с помощью машинного обучения. Марсоход Perseverance уже собрал образцы породы с окаменелостями, которые могли быть созданы древними микроорганизмами. А в это же время на Земле кипит работа над алгоритмами, способными просеивать гигантские массивы сложных химических данных — в сотни раз быстрее и внимательнее, чем любой научный коллектив.

Один из таких проектов возглавляет Майкл Вонг из Института Карнеги и Калеб Шарф из NASA. При поддержке гранта в 5 миллионов долларов они создают инструменты машинного обучения, натасканные как минимум на тысяче образцов: от метеоритов и минералов до ископаемых и живых тканей. Часть данных поступает с реальных приборов — например, масс‑спектрометров, которые уже летают на миссиях NASA. Идея в том, чтобы алгоритм научился улавливать разницу между химическим «почерком» жизни и безжизненными процессами.

Вонг, ознакомившись с выводами мичиганской группы, не стал бить тревогу. Он считает, что эксперимент не столько вскрыл фатальный изъян, сколько подсветил тонкость методологии. «Честно говоря, я не думаю, что всё так плохо, — сказал он в интервью. — Чтобы создать свои подделки, авторам пришлось применить процесс, очень похожий на естественный отбор, а это уже живой процесс. Я не знаю ни одной физической среды, которая бы действовала по принципу: предпочитаю объекты, которые только выглядят как живые, но не ведут себя как живые».

И всё же работа коллег заставила Вонга задуматься о том, чему именно учить модели. Его команда планирует расширить обучающую выборку не только живыми организмами, но и следами жизни — окаменелостями, органическими остатками, продуктами жизнедеятельности. «Ископаемое — это свидетельство жизни. Как и стул, на котором я сижу, — такие вещи не появляются сами собой благодаря геологии, — рассуждает он. — Они не живые, но они часть жизни, её продукт». Если на Марсе или другом мире сохранились лишь химические «призраки» давно угасшей биосферы, нынешние модели, натренированные только на живом, их попросту не заметят.

Когда ИИ видит то, чего не видят люди

Кстати, иногда «ошибки» алгоритма оборачиваются неожиданными открытиями. Вонг рассказывает, как в одном из тестов система упорно твердила, что образец асцидии — морского животного, не способного к фотосинтезу, — выглядит фотосинтетическим. Поначалу это списали на сбой, но потом выяснилось: асцидии часто носят в своих тканях водоросли‑симбионты, которые как раз используют солнечный свет. Искусственный интеллект уловил химические отпечатки, которые проглядели люди. Такие случаи вселяют надежду, что при должной осторожности машины действительно могут расширить наш взгляд на природу жизни.

Но мичиганские исследователи непреклонны: инструменты пока не готовы к отправке на космические аппараты. Лаборатория Гупты и Адами уже работает над собственными методами машинного обучения, которые могли бы противостоять подобным обманам. «Мы можем подождать, — резюмирует Гупта. — Очевидно, что мы ещё не достигли нужного уровня».

Ложное срабатывание детектора жизни на другой планете — это не просто конфуз. Это потраченные годы, ресурсы и, возможно, упущенный шанс найти настоящие следы. Пока что самый надёжный «прибор» для поиска внеземной жизни — это человеческий ум, вооружённый здоровым скепсисом. И, похоже, искусственному интеллекту ещё предстоит доказать, что он достоин занять место в первом ряду этого величайшего научного приключения.