Безопасность ИИ

Безопасность ИИ — область исследований, направленная на то, чтобы системы искусственного интеллекта действовали предсказуемо и не причиняли вреда. Термин приобрёл известность благодаря дискуссиям о рисках сверхразумного ИИ, который может иметь цели, расходящиеся с человеческими.