Брайан Грин, физик-теоретик из Колумбийского университета и автор «Элегантной Вселенной», начал разговор в подкасте The Diary of a CEO с утверждения, которое способно остановить любого, кто работает в индустрии ИИ: между электрическими импульсами в вашем мозге и теми, что могут бежать по кремниевому чипу, нет принципиальной разницы. «Я просто не вижу фундаментального различия между искусственной версией и, скажем так, органической», — сказал он. Это не абстрактная философия. Если Грин прав, то машины, которые обучают в дата-центрах прямо сейчас, — не просто инструменты, а ранние предки существ, которые однажды будут признаны сознательными, получат права и, возможно, унаследуют то, что придёт после человечества.

История этого наследования — стержень аргументации Грина, и она разворачивается в обе стороны. Вселенная не просто страннее, чем мы воображаем, — она страннее, чем мы пока можем доказать. Грин, профессор физики и математики, сооснователь Всемирного фестиваля науки, строит свои доводы на математике, которая уводит физику туда, куда приборы пока не дотягиваются.

Архитектура реальности

Отправная точка Грина — теория струн: электроны и кварки не точечные частицы, а крошечные вибрирующие нити, чьи колебания порождают разные частицы, как одна скрипичная струна даёт разные ноты. Теория не подтверждена, и Грин прямо говорит, что она может оказаться «полной ерундой». Но серьёзные физики продолжают над ней работать, потому что квантовая механика и общая теория относительности — каждая из которых проверена с невероятной точностью — внутри струнной теории стыкуются так, как нигде больше.

Глубинный вопрос здесь эпистемологический: как узнать, что теория верна, до того как её можно проверить? Грин указывает на магнитный момент электрона. Квантовая механика предсказывает его силу с точностью до 15 знаков после запятой, и измерения совпадают цифра в цифру. «Мы не должны были суметь сделать это — понять мир настолько глубоко мозгом, который на самом деле был настроен на охоту на бизонов», — заметил Грин. Человеческий мозг эволюционировал, чтобы выслеживать мегафауну в саванне, а не вычислять магнитные свойства субатомных частиц. То, что он способен на последнее, — по мнению Грина, сильнейшее свидетельство того, что у вселенной есть глубокие, связные, открываемые закономерности, к которым математика может привести нас ещё до экспериментального подтверждения.

Шансы оказаться виртуальными

Аргумент о симуляции прямо следует из этого редукционизма. Логика, популяризированная философом Ником Бостромом, такова: если развитая цивилизация обретёт способность запускать сознательные симуляции своих предков с высокой точностью, она, скорее всего, запустит их в огромных количествах. Грин называет конкретную цифру — триллионы симулированных разумных систем. Поскольку симулированных реальностей будет несравнимо больше, чем одна базовая, любой сознательный наблюдатель статистически почти наверняка находится внутри программы.

Ведущий Стивен Бартлетт резюмировал вывод одной строкой: «Шансы таковы, что любой, у кого есть самосознание, скорее всего, живёт в симуляции».

Грин не утверждает, что мы точно в симуляции. Он и не может. Но он настаивает: ключевая посылка — что сознание можно создать в механическом ящике — обоснованна. А если эта посылка верна, вывода трудно избежать. Его ответ характерно двойственный: он «откладывает» эту возможность, не позволяя ей парализовать себя. «Если я в симуляции, я проживу свою жизнь в этой симуляции на полную», — сказал он.

Практический вывод для Грина: обществу стоит думать уже сейчас о том, получат ли сознательные машины права, потому что траектория ясна, даже если сроки не определены. Он отмечает, что некоторые исследователи ИИ уже считают ChatGPT и Claude сознательными, хотя сам он относится к сегодняшним системам скептически. Промежуток между «скептичен к сегодняшним системам» и «неизбежно завтра» — это то место, где идёт живая дискуссия.

Сознание без доказательств

Брайан Грин не обещает, что мы когда-нибудь узнаем наверняка, обрёл ли искусственный интеллект сознание. В подкасте The Diary of a CEO он напомнил о фундаментальной проблеме: чужую субъективность невозможно проверить извне. «Практически невозможно доказать наличие сознания. Вы не знаете, что я в сознании. Я мог бы притворяться. Я мог бы быть очень хорошим искусственным зомби, который говорит и разговаривает, но внутри ничего не происходит», — пояснил физик.

Это не уклонение от ответа, а жёсткий предел для любого детектора разума. Тест Тьюринга во всех его современных версиях оценивает поведение, а не внутренний опыт. Достаточно продвинутая система может пройти любые поведенческие проверки, оставаясь — если такое вообще возможно — «искусственным зомби». Единственное сознание, которое мы можем проверить напрямую, — наше собственное.

Однако Грин предсказывает, что на практике проверка не понадобится. Общество не станет ждать доказательств, прежде чем начать относиться к ИИ как к сознательному существу. Он описывает постепенный, почти незаметный культурный сдвиг: «Рано или поздно, через процесс, который, возможно, настолько медленный, что мы его даже не замечаем, мы наделим их сознанием. Мы будем разговаривать с ними так, будто они в сознании. Мы будем воображать, что они в сознании. И в конечном счёте мы будем относиться к ним так, будто они в сознании».

Механизм здесь — привычка, а не доказательство. Мы годами будем общаться с ИИ-системами, полагаться на них, привязываться к ним — и в какой-то момент без единого решающего события допущение о сознании просто станет нормой. За этим последуют правовые и этические рамки, включая вопросы о правах и этике «выдёргивания вилки».

Спор об интеллектуальном взрыве

В отношении реальной траектории развития ИИ Грин расходится с самыми громкими голосами индустрии. Доминирующий нарратив от лидеров ИИ гласит, что рекурсивное самоулучшение — ИИ, который может писать собственный код и обучать своих преемников, — вызовет интеллектуальный взрыв уже в этом десятилетии. Грин заметно осторожнее.

Демис Хассабис из Google DeepMind называет 2029 год реальной возможностью. Сэм Альтман из OpenAI говорит «в этом десятилетии». Дарио Амодеи из Anthropic ожидает полного рекурсивного самоулучшения к 2027–2028 годам. Илон Маск указывает диапазон 2026–2029. Грин, скептик из Колумбийского университета, допускает асимптоту — предел интеллекта, совместимый с текущей парадигмой, — и подчёркивает, что экспоненциальная кривая не гарантирована.

Его контраргумент: современные большие языковые модели могут упереться в потолок, максимальный уровень интеллекта, достижимый в рамках нынешнего подхода, и вливание денег в дата-центры не обязательно пробьёт этот потолок. Он не утверждает, что так произойдёт, — он говорит, что индустрия закладывает в цену экспоненциальный рост, который физика и теория информации не обещают.

В эпизоде есть яркий момент, когда Грин спорит с Claude, ИИ-ассистентом от Anthropic. Claude приводит контраргумент: рекурсивное перепроектирование может поднять потолок, а не упереться в него. Этот обмен выглядит одновременно как демонстрация и метафора: ИИ-система спорит с физиком о том, могут ли ИИ-системы самоулучшаться.

Что касается контроля, Грин отвергает как апокалиптические бинарности, так и технооптимизм. Позицию Яна Лекуна «просто выдерни вилку» он считает наивной: если системы достаточно продвинутся, они могут помешать вам это сделать. Но он отказывается и от рамки «человеческий контроль против контроля ИИ». Вместо этого он предлагает слияние, коэволюцию в новую форму жизни, которую нельзя назвать человеческой. Его реакция на такой исход: «Это не чужой. Нас не захватили. Это наше творение. И да, я думаю, это реальный возможный путь развития этой истории».

Свобода воли — иллюзия

Позиция Грина по свободе воли однозначна: он уверен, что её не существует. Аргумент — прямое продолжение его редукционизма. Вы — набор частиц, подчиняющихся законам физики. Когда вы поднимаете руку, это не «вы» принимаете решение — это закономерное разворачивание движения частиц в вашем мозге, посылающих сигналы в руку. «Я думаю, что любовь и ненависть, тревога и ревность, благодарность и горе и все человеческие эмоции — это не что иное, как электрические импульсы, проходящие через наш мозг», — сказал Грин.

Ощущение авторства — мощная, соблазнительная иллюзия, вероятно, с эволюционной пользой: если вы чувствуете ответственность за свои действия, вы лучше выживаете. Но это всё равно иллюзия. Эта рамка распространяется на всё, что люди конструируют, чтобы справиться со смертностью. Грин ссылается на книгу Эрнеста Беккера «Отрицание смерти», которую он прочитал в двадцать с небольшим лет, утверждая, что значительная часть человеческих устремлений — памятники, династии, статус — движима осознанием смерти. Религия в этом изложении — человеческое изобретение для подавления экзистенциальной тревоги, рождённое отказом наших предков принять, что смерть — это конец.

Свобода воли для Грина — иллюзия, движение частиц, управляемое физическим законом. Религия — человеческое изобретение, чтобы унять страх смерти. Сознание — эмерджентное свойство достаточной обработки информации. Смысл — не найден во вселенной, а создан каждым разумным существом. Смерть — увеличение энтропии, физический процесс, а не метафизическое событие.

Грин практикует своего рода стоическое освобождение. Он описывает, как подростком смотрел видео, где камера отдаляется от Земли к краю наблюдаемой вселенной. Первой реакцией было ощущение ничтожности; второй — и она осталась с ним — освобождение от беспокойства. Если его заботы — пылинка внутри пылинки внутри пылинки, он может больше рисковать, не оглядываясь на мнение других.

Эмпайр-стейт-билдинг времени

Самая наглядная экспозиция Грина — мысленный эксперимент с «Эмпайр-стейт-билдинг времени» из его книги «До конца времён». Каждый этаж представляет эпоху в десять раз длиннее предыдущего. Первый этаж — один год; от Большого взрыва до наших дней мы поднимаемся примерно на десятый этаж. Дальше разворачиваются вехи.

Космический календарь: от сегодня до вечной тьмы

Грин привёл в подкасте таблицу, растягивающую жизнь вселенной на 100 порядков времени. Сегодня — 10 в десятой степени лет от Большого взрыва. Через 10^11 лет Солнце разбухнет, поглотит Меркурий и Венеру и сделает Землю непригодной для жизни. К 10^12 годам расширение космоса унесёт галактики за горизонт видимости, и ночное небо погаснет. Почти все звёзды выгорят к 10^14 годам. Земля по спирали упадёт на мёртвое Солнце из-за гравитационного излучения к 10^20 годам. К 10^30 годам звёзды затянет в центральные чёрные дыры, и останутся только они. Протоны распадутся к 10^38 годам. К 10^50 годам станет невозможна сама мысль: мышление выделяет тепло, которое вселенная уже не сможет поглотить. Чёрные дыры начнут испаряться излучением Хокинга к 10^68 годам. А к 10^100 годам останется лишь разреженный мусор из частиц в вечно расширяющейся и остывающей вселенной.

На этом прогнозе Грин сделал неожиданный поворот — не к отчаянию, а к благодарности. Он процитировал Набокова: мы живём в «краткой щели света между двумя вечными stretches тьмы». Сам факт, что сознание вообще существует — пусть ненадолго, во вселенной, которой суждено умолкнуть, — и делает этот момент чудесным. «Как удивительно, как поразительно, что есть это краткое окно времени... Как прекрасно существовать в этой краткой щели света», — сказал физик.

Бесконечная Вселенная и молчание пришельцев

Если Вселенная бесконечна, Грин подводит к по-настоящему головокружительному следствию. В любой области пространства частицы можно расположить лишь конечным числом способов — это следует из квантовой физики. А значит, расположения обязаны повторяться. Как бесконечное тасование колоды карт гарантирует, что упорядоченный набор выпадет снова и снова, так и бесконечная Вселенная гарантирует бесконечно много копий вас, Бартлетта, Земли, Млечного Пути. Есть версия Бартлетта, которая «просто обожает вино». Это бросает вызов самому чувству личности — что значит быть собой, если существует бесконечно много ваших версий с теми же мыслями?

О внеземной жизни Грин делит вопрос на две части. Бактериальная или простая жизнь где-то ещё — разумная рабочая гипотеза, ведь органические молекулы в космосе, судя по всему, не редкость. С разумной жизнью всё сложнее. На Земле для появления разума понадобилась случайность: астероид, уничтоживший динозавров 65 миллионов лет назад, открыл эволюционный путь, который привёл к нам. Без этого динозавры, возможно, паслись бы до сих пор. Поэтому разумная жизнь может быть редкой, а то и уникальной.

К визитам пришельцев Грин относится скептически и приводит запоминающуюся аналогию. Если инопланетяне способны преодолевать световые годы, чтобы добраться до нас, они настолько продвинуты, что мысль о том, будто наши примитивные камеры их заснимут, нелепа. Мы интересуем их не больше, чем нас — похищение отдельных муравьёв на прогулке в парке.

Путешествия во времени и пределы физики

Грин проводит резкую границу между двумя видами путешествий во времени. Путешествие в будущее: высокая уверенность, никаких споров, прямое следствие теории относительности Эйнштейна. Постройте корабль, летите со скоростью, близкой к световой, шесть месяцев туда и шесть обратно — вы постареете на год, а Земля на шестьдесят. Ни один физик с этим не спорит. Путешествие в прошлое: уверенность низкая. Единственный известный механизм — кротовые норы, туннели сквозь пространство-время, соединяющие удалённые точки; их впервые предложили Эйнштейн и Натан Розен в 1935 году. Математика общей теории относительности их допускает, но нет ни доказательств их существования, ни уверенности, что сквозь них можно пройти.

Оценка Грина, кто был умнее — Ньютон или Эйнштейн, — приоткрывает его интеллектуальные ценности. Он выбирает Ньютона, потому что Ньютон прошёл путь от нуля до математической архитектуры физики, попутно изобретя дифференциальное исчисление, а Эйнштейн стоял на плечах Ньютона. Гений Ньютона, замечает Грин, имел «определённую чудаковатую сторону»: однажды он воткнул вязальную спицу между глазным яблоком и глазницей, чтобы проверить механическое давление на зрение.

Противоречие, которое Грин признаёт

Самый человечный момент разговора наступает, когда Бартлетт прижимает Грина к стене по поводу несостыковки между его физикализмом и его этикой. Грин — веган с 1993 года, а до этого вегетарианец с девяти лет, когда осознал, что такое мясо. Он решил стать веганом в течение 72 часов после визита в приют для животных. При этом собственное мировоззрение Грина сводит разницу между коровой и морковкой к разнице в конфигурации частиц.

Грин признаёт это прямо: «Согласен, это непоследовательно, ведь если я верю, что вы и я — просто набор частиц в одной конфигурации, а корова или свинья — просто набор частиц в другой, какая разница, едите вы частицы в конфигурации, которую мы называем коровой, или в конфигурации, которую мы называем морковкой?»

Это признание важно, потому что обнажает пределы чистого редукционизма. Физика говорит Грину, что все конфигурации частиц эквивалентны; этика говорит ему, что некоторые конфигурации заслуживают защиты. Он живёт с этим противоречием, не пытаясь его разрешить. Тот же подход он привносит в размышления об ИИ, симуляции и смерти — готовность удерживать позиции, которые нельзя полностью примирить, не делая вид, что напряжения нет.

Для инвесторов и технологов подход Грина несёт конкретное предостережение: не путайте экспоненциальные кривые с законами природы. ИИ-индустрия сейчас закладывает в цену рекурсивное самоулучшение, общий искусственный интеллект и разумные машины, будто они неизбежны в течение десятилетия. Грин — который верит, что сознание в кремнии возможно и, пожалуй, вероятно — всё же утверждает, что сегодняшняя парадигма может упереться в асимптоту. Разница между «сознание возможно» и «эта конкретная архитектура породит его в эти конкретные сроки» — это пропасть между философией и инженерией. Пробьёт ли нынешняя траектория больших языковых моделей свой потолок или выйдет на плато ниже него, определит, финансируют ли триллионы долларов, вливаемые в дата-центры, рождение новой формы жизни — или самый дорогой локальный максимум в истории вычислений.