Исследователи предупреждают, что агенты ИИ должны восприниматься как ненадёжные системы, иначе безопасность выйдет из строя
Научная статья учёных из Google, Meta, UC San Diego и нескольких университетов заняла прямую позицию, ставящую под сомнение нынешний подход отрасли к безопасности агентов ИИ. Статья под названием «Безопасность агента — это системная проблема» утверждает , что рассматривать модели ИИ как основной уровень безопасности по сути недостаточно. Модель, управляющая любым агентом, должна рассматриваться как ненадёжный …