«Не ноль» — и это всё, что мы знаем

Илон Маск рисует утопию: роботы работают, деньги отменяются, человечество освобождено от труда. Джефф Безос обещает к 2045 году миллионы людей в космосе. Сэм Альтман — что выпускники колледжей через десять лет будут делать «совершенно новую, захватывающую, сверхоплачиваемую» работу в космосе. А Лила Ибрагим, директор по готовности к ИИ в Google DeepMind, смотрит на всё это и говорит: стоп. Никто не знает, куда мы идём. И вероятность того, что мы не дойдём вовсе, — не ноль.

«Не ноль. Всё, что сверх этого, — просто мои догадки… Это во мне говорит инженер», — сказала Ибрагим в интервью Fortune.

Три года назад она подписала заявление Центра безопасности ИИ, в котором говорилось, что снижение риска вымирания человечества из-за ИИ должно восприниматься так же серьёзно, как угроза ядерной войны. Подписали его и Сэм Альтман из OpenAI, и Дарио Амодеи из Anthropic. С тех пор прошло три года, но Ибрагим считает, что «было бы безответственно с нашей стороны не говорить об экзистенциальном риске».

Цифры, которые называют другие

Ибрагим отказывается называть точную вероятность. Но другие — называют. Джеффри Хинтон, так называемый крёстный отец ИИ, оценивает шансы вымирания человечества в 10–20% в ближайшие три десятилетия. Амодеи говорит, что есть 25% вероятность того, что будущее — то есть наше существование — сложится «действительно, действительно плохо». Даже покойный Стивен Хокинг, который сам полагался на ИИ, чтобы делиться с миром своими взглядами, предупреждал, что ИИ может покончить с человечеством — почти за десять лет до появления ChatGPT.

«Две вещи не дают мне спать по ночам: делаем ли мы всё возможное, чтобы снизить риски? И делаем ли мы всё возможное, чтобы максимизировать возможности? Эти две вещи, на мой взгляд, идут рука об руку», — говорит Ибрагим.

Она — первый операционный директор компании. И она напоминает: пандемия показала, что катастрофические риски — не всегда те, которые мы ждём. Бизнес, по её словам, имеет привычку недостаточно говорить о том, что может пойти не так. Так было с интернетом, так было с соцсетями.

«Мы не садились за стол переговоров, когда принимали инвестиционные решения, и не говорили о рисках так, как следовало бы. Иногда мы слишком застреваем в текущем моменте», — говорит Ибрагим. И добавляет: нам стоило бы смотреть на апокалиптические голливудские фильмы как на предостережение.

«Если мы ничего не сделаем, чтобы смягчить риски или инвестировать в хорошие вещи на этом пути, мы окажемся ровно там, где не хотим оказаться. Многое может пойти не так».

Утопия Маска: почему Ибрагим не верит

Ибрагим одинаково скептична к обеим крайностям. Если она не хочет называть точную вероятность гибели человечества, то и в постдефицитный рай она не верит.

Маск неоднократно говорил о будущем, в котором ИИ и роботы производят столько изобилия, что работа становится необязательной, а зарплата — бессмысленной. Недавно он даже назвал срок: десять лет до того, как роботы захватят рабочие места и сделают оклады устаревшими.

«Деньги не будут иметь значения в 2036 году», — заявил Маск The Economist. По его словам, товары станут настолько дешёвыми, что мы войдём в эпоху дефляции, а правительства будут выплачивать гражданам всеобщий высокий доход — тем, кто освобождён от ежедневной трудовой рутины. Ранее он также прогнозировал, что ИИ превзойдёт интеллект всего человечества уже через пять лет.

Безос предсказывает, что к 2045 году «миллионы людей» будут жить в космосе, а роботы возьмут на себя ежедневные поездки на работу — правда, не в офис, а на другие планеты. Альтман говорит, что менее чем через десять лет выпускники колледжей будут работать на «совершенно новых, захватывающих, сверхоплачиваемых» работах в космосе.

Ибрагим не покупается на это. Даже имея место в первом ряду на крупнейшие прорывы ИИ в Google DeepMind — лаборатории, посвящённой решению серьёзных научных проблем, — она говорит: технология движется слишком быстро, чтобы кто-то мог с реальной точностью предсказать, что будет дальше.

«Я не думаю, что мы можем реально предсказать, как будет выглядеть будущее состояние», — сказала она Fortune.

Практика вместо пророчеств

Её фокус, по её словам, не на том, на какой планете мы будем жить через два десятилетия. А на том, как эти новые технологии можно практически использовать, чтобы сделать мир, в котором мы живём сейчас, лучше: решать конкретные проблемы — экстремальные погодные условия, промышленные отходы — и при этом следить, чтобы выгоды не доставались только горстке людей, управляющих этими мощными ИИ-компаниями.

«Я бы предпочла, чтобы мы направили внимание на то, как использовать технологию как инструмент для максимизации человеческого потенциала. Именно туда нам нужно инвестировать и тратить время — на дискуссии о том, какие болезни мы можем вылечить с помощью этого нового инструмента, который находит закономерности, которые мы, люди, не замечали».

«Я много думаю о том, как мы приходим к будущему, а не о том, каким оно будет», — добавила она.

Вопрос, который Ибрагим оставляет открытым, — самый неудобный. Мы не знаем, насколько велик риск. Мы не знаем, насколько сладок рай. Мы знаем только, что он не ноль. И, пожалуй, этого достаточно, чтобы не переставать задавать вопросы.