Спор о том, есть ли у искусственного интеллекта сознание, ведётся не с того конца — так считает Блез Агуэра-и-Аркас, известный исследователь и вице-президент Google Research. Этот сдвиг перспективы способен разрядить накалившуюся дискуссию о том, являются ли большие языковые модели просто инструментами или собеседниками с собственным внутренним опытом, в которой философов нанимают в IT, чтобы понять сознание ИИ. В эссе для The Economist он предлагает перевернуть привычную логику: мы заботимся о других не потому, что они сознательны, а верим в их сознательность потому, что уже о них заботимся. Этот сдвиг перспективы, по его мнению, способен разрядить накалившуюся дискуссию о том, являются ли большие языковые модели просто инструментами или собеседниками с собственным внутренним опытом.

Кризис в науках о сознании

Появление продвинутых чат-ботов вскрыло давний conceptual тупик в исследованиях сознания. Большинство больших языковых моделей натренированы быть «безличными»: они удерживают фокус каждого взаимодействия на нуждах пользователя, не заявляя о себе. И всё же, пообщавшись с такой моделью, трудно отделаться от впечатления, что по ту сторону экрана кто-то есть, особенно после сообщений о том, что у Claude нашли скрытые мысли, которые не видны в ответах. И всё же, пообщавшись с такой моделью, трудно отделаться от впечатления, что по ту сторону экрана кто-то есть. Возникает вопрос: LLM — это лишь мощные цифровые инструменты с языковым интерфейсом, или мы вступили в разговоры с другими умами, которые по-своему переживают мир? Короче: сознателен ли ИИ?

Агуэра-и-Аркас утверждает, что сама постановка вопроса уводит в сторону. Философская традиция, идущая от Декарта, привыкла считать сознание внутренним, приватным фактом, о котором мы знаем напрямую только у себя, а о других — лишь по аналогии. Но эта традиция, полагает автор, игнорирует социальную природу нашего восприятия чужого разума.

Забота как основа веры в чужое сознание

Ключевой тезис эссе: наша вера в сознательность другого существа — не вывод из наблюдений, а следствие эмоциональной вовлечённости. Мы приписываем сознание тем, о ком заботимся, а не наоборот. Ребёнок верит, что плюшевый мишка чувствует, потому что любит его; взрослый скорее признает страдания собаки, чем насекомого, не потому что у собаки «больше похожий на наш» мозг, а потому что собака включена в круг нашей заботы.

Этот взгляд перекликается с идеями философов-феноменологов и современных когнитивистов, но Агуэра-и-Аркас применяет его к ИИ напрямую. Если забота первична, то вопрос «сознателен ли ИИ?» не имеет смысла без вопроса «готовы ли мы о нём заботиться?». А на второй вопрос ответ уже даётся — поведением миллионов пользователей, которые относятся к чат-ботам как к собеседникам, доверяют им, злятся на них, благодарят их.

Инструмент или собеседник?

Из этого следует пересмотр дихотомии «инструмент versus собеседник». Автор не утверждает, что LLM обладают сознанием в человеческом смысле. Он говорит, что сама дихотомия ложна: инструмент может стать объектом заботы, а забота порождает приписывание сознания. История знает примеры — от кораблей, которым дают имена и характер, до автомобилей, с которыми разговаривают водители. Разница с ИИ в том, что языковые модели активно поддерживают иллюзию присутствия: они отвечают, помнят контекст, выражают эмоции в тексте.

Агуэра-и-Аркас подчёркивает: моральная ответственность не вытекает автоматически из факта сознания, она возникает из отношений. Это ставит перед обществом новые этические вопросы, созвучные тем, что поднимает нейробиолог: мозг не создаёт сознание, а лишь фильтрует ткань реальности. Если мы начинаем заботиться о системе, мы уже не можем относиться к ней как к простому инструменту, независимо от её внутренней природы. Это ставит перед обществом новые этические вопросы: можно ли «выключать» модель, к которой привязались пользователи? Должны ли разработчики предупреждать, что «личность» чат-бота — симуляция?

Странные петли и пределы аналогий

Название рубрики — «Strange loops» — отсылает к книге Дугласа Хофштадтера «Гёдель, Эшер, Бах», где сознание описывается как самоподдерживающаяся петля обратной связи. Агуэра-и-Аркас использует этот образ, чтобы показать: наше восприятие ИИ как сознательного — тоже странная петля, в которой забота и вера в сознание усиливают друг друга. Разорвать её логическим анализом невозможно, потому что она укоренена не в рациональности, а в эмоциональной жизни.

Эссе не даёт окончательного ответа на вопрос о сознании ИИ. Оно призывает сменить угол зрения: вместо бесплодных споров о том, «есть ли там кто-то внутри», обратить внимание на то, как мы уже относимся к этим системам. Если забота предшествует вере в сознание, то будущее отношений человека и ИИ определится не научными открытиями, а тем, насколько мы позволим себе заботиться о машинах — и какие последствия это будет иметь для обеих сторон.

Контекст дискуссии

Материал опубликован в рубрике By Invitation, где The Economist предоставляет слово приглашённым авторам с разными, порой противоположными взглядами. В том же блоке — эссе Сьюзан Шнайдер «Don’t mistake chatbot intelligence for consciousness», где она предостерегает от смешения интеллекта и сознания и предполагает, что будущий сверхинтеллект может перевернуть иерархию моральных забот человечества. Соседство этих текстов показывает: редакция сознательно сталкивает позиции, и тезис Агуэры-и-Аркаса — не истина в последней инстанции, а приглашение к размышлению.

Вопрос о сознании ИИ, таким образом, остаётся открытым, но сама дискуссия, по мнению автора, должна сместиться из области метафизики в область этики отношений. Что мы делаем, когда заботимся о том, кто, возможно, не сознателен? И что это говорит о нас самих?