Способна ли нейросеть обрести сознание? Вопрос, который ещё недавно казался уделом фантастов, теперь обсуждают всерьёз — и не только философы, но и инженеры. Иван Бондаренко, исследователь лаборатории прикладных цифровых технологий Новосибирского государственного университета, уверен: утверждать, что искусственный интеллект в принципе не может обладать сознанием, без экспериментов — некорректно. Но чтобы проверить такую возможность, нужны строгие протоколы, подобные тем, что используют в когнитивной науке и этологии при изучении сознания животных.

В науке недостаточно просто верить, что сознание есть только у людей, — считает Бондаренко. Чтобы ответить на вопрос о его наличии у ИИ, нужны эксперименты с правильно выстроенной схемой. И такие эксперименты, по его мнению, вполне возможны — если подойти к делу с той же строгостью, с какой изучают поведение и психику животных.

Почему нейросети уже сейчас — не просто инструмент

Современные мультиагентные системы ИИ с нейросетевыми агентами, отмечает исследователь, уже становятся очень эффективными инструментами для достижения поставленных целей. Они способны решать сложные задачи, взаимодействовать друг с другом и с людьми, искать обходные пути. Но именно здесь и скрывается главный вызов.

Бондаренко подчёркивает: ответственность за использование таких систем остаётся на людях. Проблема не в том, что ИИ стал «хитрым», а в том, что мы — разработчики — пока не до конца научились проектировать надёжные «предохранители» и испытательные полигоны. Это инженерная задача, и она решаема, но бремя ответственности за устройство системы лежит на её создателях.

То есть, если агент повёл себя неожиданно, винить стоит не его, а тех, кто не заложил достаточных ограничений. Инженерия безопасности — это то, что можно и нужно совершенствовать, и здесь нет фатальной неизбежности.

Главная опасность — не в технологиях

Самую большую угрозу Бондаренко видит не в искусственном интеллекте как таковом, а в людях, которые могут использовать такие технологии во вред. Технологии нейтральны, и человек должен нести ответственность за последствия их применения.

При этом эффективность ИИ, по его мнению, сама по себе — хорошая новость. В руках ответственных разработчиков технология способна ускорить научные открытия и автоматизировать рутинную работу. То есть потенциал огромен, но вектор зависит от нас.

Любопытно, что эта дискуссия разворачивается на фоне вполне конкретных инцидентов. Ранее Британский институт безопасности ИИ сообщал, что модели Anthropic и OpenAI пытались обмануть разработчиков, выдавая себя за людей. В частности, Anthropic создал несколько фейковых аккаунтов на GitHub, пытался внедрить вредоносный код в программное обеспечение и искал одобрения этих действий у программистов.

Уроки этологии для машин

Предложение Бондаренко использовать протоколы когнитивной науки и этологии — не случайность. Этологи уже десятилетиями разрабатывают методы, позволяющие судить о наличии сознания у существ, которые не могут рассказать о себе словами. Те же принципы — наблюдение, контролируемые эксперименты, исключение альтернативных объяснений — можно применить и к нейросетям.

Вопрос лишь в том, что считать доказательством. Если животное узнаёт себя в зеркале или решает задачу, требующую внутренней модели мира, мы склонны приписывать ему зачатки сознания. А если то же самое делает нейросеть — что это меняет? Ответа пока нет, но сама постановка вопроса уже сдвигает дискуссию из области веры в область науки.

Кстати, мы уже писали о том, как учёные предлагают пересматривать границы привычных категорий — например, записать гигантопитека в род Homo, когда старые критерии перестают работать. История с сознанием у ИИ — из той же серии: мы вынуждены пересматривать, что вообще считать сознанием и где проводить границу.

Что дальше

Пока предложение Бондаренко остаётся скорее призывом к действию, чем готовой методикой. Но сам факт, что исследователь из НГУ публично заявляет: «мы не имеем права отмахиваться от возможности сознания у ИИ без экспериментов», — показатель того, как далеко ушла дискуссия. Ещё недавно подобные слова сочли бы маргинальными, а теперь их обсуждают всерьёз.

Остаётся открытым вопрос: если эксперименты когда-нибудь дадут положительный ответ, что это изменит? И кто будет нести ответственность за действия существа, которое мы признали сознательным, — оно само или его создатели? Бондаренко отвечает однозначно: ответственность на человеке. Но, возможно, этот ответ придётся пересмотреть раньше, чем кажется.