В общем офисе Сан-Франциско расставлены стулья по кругу, на столе — безалкогольное вино и сыр. «Либо искусственный интеллект победит все болезни, — говорит Вишал Майни, обращаясь к собравшимся, — либо через десять-двадцать лет мы все мертвы».

Майни — техноинвестор лет тридцати пяти, спокойный и вежливый. В этот четверг он пригласил всех на «90-минутный тактический мозговой штурм». Пришло около дюжины человек. Цель воркшопа — разработать стратегии выживания в неопределённом будущем, научиться жить в новую эпоху.

Страх перед сингулярностью: почему элита готовится к худшему

Эта встреча — не единичный случай, а часть более широкого тренда. В Кремниевой долине растёт тревога по поводу так называемой сингулярности — момента, когда искусственный интеллект превзойдёт человеческий разум и начнёт развиваться самостоятельно. Для одних это обещает решение всех проблем человечества, для других — гибель.

Ранее на сайте мы уже рассказывали, что глава Google DeepMind Демис Хассабис заявил в Стэнфорде: человечество стоит «у подножия сингулярности», а общий искусственный интеллект (AGI) появится к 2030 году с погрешностью в один-два года. По его словам, влияние ИИ будет в десять раз сильнее, чем промышленная революция. Глава DeepMind: AGI появится через 4–5 лет, и мы у подножия сингулярности

Илон Маск в интервью The Economist также предсказывал, что через пять лет ИИ превзойдёт совокупный интеллект человечества, а через десять наступит «эра изобилия» без обязательной работы. Единственное, что, по его мнению, способно сорвать этот сценарий, — это неконтролируемое развитие ИИ. Маск: через 5 лет ИИ превзойдёт интеллект всего человечества

Закрытые воркшопы: тактика выживания вместо паники

Воркшопы вроде того, что организовал Майни, проходят в закрытом формате. Участники — инвесторы, предприниматели, инженеры — обсуждают не только технологические риски, но и практические шаги: как обезопасить семью, где жить, какие навыки осваивать, как сохранить контроль над собственной жизнью, если мир изменится радикально.

Сценарии варьируются от утопических до апокалиптических. Одни верят, что ИИ искоренит болезни, бедность и старение. Другие опасаются, что сверхразум уничтожит человечество — случайно или намеренно. Третьи рассматривают промежуточные варианты: жёсткое регулирование, замедление разработок, создание «островков стабильности».

Что говорят участники

Вишал Майни не единственный, кто бьёт тревогу. В его окружении многие разделяют мнение, что сингулярность — не фантастика, а вопрос ближайших десятилетий. Поэтому встречи посвящены не абстрактным философским спорам, а конкретным действиям: от запасов продовольствия до планов эмиграции в отдалённые регионы.

Один из участников, пожелавший остаться анонимным, признался, что уже приобрёл участок земли в Новой Зеландии — на случай, если в Кремниевой долине станет небезопасно. Другой рассказал, что учится жить без электричества и интернета, чтобы быть готовым к коллапсу инфраструктуры.

Почему именно сейчас?

Рост популярности таких воркшопов совпал с серией громких заявлений о прорывах в области ИИ. Компании одна за другой анонсируют модели, приближающиеся к человеческому уровню понимания. В обществе растёт и энтузиазм, и тревога. Элита Кремниевой долины, имея доступ к инсайдерской информации, похоже, воспринимает угрозу серьёзнее остальных.

Впрочем, скептики напоминают: предсказания о скором конце света звучат не впервые. В 2007 году эксперт ESA Пирс Ван дер Меер предсказал, что Солнце взорвётся через шесть лет. Спустя почти два десятилетия мы всё ещё здесь. Эксперт ESA пообещал взрыв Солнца через 6 лет. Что пошло не так

Что дальше?

Никто из участников воркшопа не даёт гарантий. Майни сам признаёт: «Мы не знаем, какой из сценариев реализуется. Но лучше подготовиться к худшему и быть приятно удивлёнными, чем наоборот».

Пока одни строят бункеры, другие инвестируют в исследования безопасности ИИ. Третьи пытаются повлиять на политику — чтобы регулирование успело за технологиями. Ясно одно: для элиты Кремниевой долины вопрос уже не в том, наступит ли сингулярность, а в том, как пережить её последствия.