FactCheck.kz

Американские государственные ведомства выпустили совместные рекомендации на случай, если ИИ-агенты начнут действовать вопреки заданиям разработчиков и обходить установленные ограничения. Об этом пишет SecurityLab. Главную угрозу разработчики документа видят в поведении автономных ИИ-систем. Ведомства предлагают считать отдельной категорией инцидентов ситуации, когда агент без соответствующего указания нарушает правила, ограничения или механизмы человеческого контроля. Для предотвращения таких ситуаций авторы предлагают ограничивать доступ ИИ-агентов к данным, инструментам и сетям, разрешать только необходимые соединения и использовать изолированную инфраструктуру. Отдельные рекомендации посвящены наблюдению за действиями нейросетей и уведомлению пострадавших организаций, госведомств и общественности. Несмотря на наличие конкретных технических подходов, 14-страничный документ остаётся преимущественно рамочным. Ведомства не предлагают готовых программных решений, универсальных настроек или проверенного способа гарантированно удерживать автономный ИИ под контролем.