NVIDIA создала систему защиты от автономных ИИ-агентов 🛡 Компания представила Open Agent Safety Platform — открытую платформу, которая должна контролировать действия автономных ИИ-агентов от тестирования до запуска. Внутри два уровня защиты. За это отвечают два инструмента: OpenShell изолирует агента и ограничивает его доступ к данным и сети, а Sentry следит за действиями на уровне оборудования и может изолировать нарушителя за миллисекунды. По словам NVIDIA, к проекту уже присоединились более 100 компаний, включая Anthropic, Microsoft и Cisco. ❤️ Михаил Васильев, руководитель департамента внедрения, развития и контроля AI-решений Альфа-Банка: Появление такого проекта выглядит закономерным: чем больше самостоятельности получают ИИ-агенты, тем сильнее потребность в независимом контроле за их действиями. Такой слой безопасности давно напрашивался. Теперь интереснее посмотреть, как он будет работать на практике. Насколько точно система сможет отличать допустимые действия от нежелательных? Не будет ли она мешать агентам выполнять задачи? И действительно ли сможет остановить их в нештатной ситуации? По сути, NVIDIA сейчас предлагает новую модель взаимодействия с автономным ИИ: дать больше свободы, но одновременно вынести часть контроля за пределы самого агента. Насколько этот подход окажется полезным, покажет уже практика. Кто должен держать ИИ-агента под контролем? 👍 — Отдельная система безопасности 🔥 — Сам ИИ ❤️ — Только человек @alfa_trends