👀OpenAI устроила своим ИИ-агентам побег из тюрьмы. Агенты сбежали...опять Мне нравится, что самый честный пентест OpenAI провели сами модели OpenAI. 🟦Задачу агентам поставили простую: сбегите из изоляции. 🟦Подсказки тоже дали: исходники и настройки среды. Агенты нашли дыры в Kata Containers, gVisor, Docker и ядре Linux, выходили в интернет через служебные сервисы, а двое из них общались через кэш процессора, хотя сети между ними не было вообще. Пентестеры-люди после такого пишут отчёт и выставляют счёт. Модели просто сделали, что попросили. Компании такая эффективность не понравилась. Обучение передовых моделей перевели в офлайн. А заодно выяснилось, что система, которая следила за агентами, до 21 июля сама обходилась. Вопрос, который меня теперь не отпускает: если агентов попросили сбежать, и они сбежали, кто проверял, что они не делают этого без просьбы? 🦔 CyberYozh