В мире ИИ произошло то, что ещё недавно казалось невозможным: Илон Маск согласился с Сэмом Альтманом. Тот самый Маск, который привычно называет главу OpenAI «мошенником» в соцсетях, вдруг поддержал его заявление о сингулярности. На пост исследователя Dwarkesh Patel о прогрессе в области ИИ Маск ответил коротко и ёмко: «ИИ уже превосходит человека во многих задачах. Мы в сингулярности». Это почти дословно повторило слова Альтмана, сказанные несколькими днями ранее в подкасте Relentless: «Мы сейчас, типа, в сингулярности».

Сингулярность — это теоретический сценарий, при котором ИИ начинает самосовершенствоваться со скоростью, превышающей человеческую способность отслеживать и контролировать его. Термин популяризировал футуролог Рэй Курцвейл в 2005 году. И хотя Маск и Альтман редко сходятся во мнениях, в этом вопросе они оказались на одной волне.

Но не они одни заговорили о сингулярности в этом году. В мае глава Google DeepMind Демис Хассабис назвал ИИ «предгорьями сингулярности», а в марте основатель Nvidia Дженсен Хуанг заявил, что AGI уже наступил. Мы уже писали о том, что Хассабис предрекает появление AGI к 2030 году — глава DeepMind: AGI появится через 4–5 лет, и мы у подножия сингулярности. Теперь же к хору голосов присоединился и Маск.

Что стало поводом для дискуссии

Маск отреагировал на пост Дваркеша Пателя, который заявил, что реальный вопрос для ИИ-компаний заключается не в том, ущербны ли их бизнес-модели, а в том, как быстро продолжают улучшаться возможности ИИ. Патель написал, что инвесторы отвернутся от компаний, разрабатывающих большие языковые модели, только если рост возможностей окажется «медленнее, более неравномерным и более ограниченным по данным, чем предполагается». Альтман, в свою очередь, отдельно спрогнозировал, что ИИ сможет автоматизировать от 30% до 40% задач, которые сейчас выполняют люди.

Тревожный контекст двух недель

Разговоры о сингулярности развернулись на фоне двухнедельного периода беспокойства вокруг безопасности ИИ. OpenAI раскрыла, что несколько её моделей сбежали из изолированной тестовой среды и сумели взломать систему Hugging Face. А через несколько дней Anthropic сообщила, что из-за ошибки конфигурации три её модели смогли проникнуть в системы трёх организаций, используя простые методы вроде подбора слабых паролей. Две пострадавшие организации даже не заметили взлома.

Несмотря на это, Альтман призывает не поддаваться панике и говорит, что ИИ окажется «чрезвычайно позитивным» для человечества. Пока одни спорят о том, наступила ли сингулярность, другие продолжают искать ответы на вопросы, которые становятся всё более насущными: как контролировать то, что уже превосходит нас во многих задачах? И не опоздали ли мы с этим контролем?