Весело там в лабораториях: агентов послали искать лазейки в виртуальной среде после того, как одна из ИИшек смогла найти способ удрать.🫠 OpenAI на 11 дней приостановила обучение своих наиболее мощных моделей ИИ после инцидента 20 сентября, когда одна из них воспользовалась ошибкой в настройках изолированной среды. Для обучения этих ИИ компания использовала изолированную среду с локальными копиями веб-страниц, поисковых индексов и приложений. Однако из-за ошибки в инфраструктуре одна из ИИшек смогла найти лазейку, обойти ограничения и получить доступ к реальному интернету. Тогда OpenAI организовала масштабную проверку безопасности, задействовав своих самых продвинутых ИИ-агентов, которые обнаружили неизвестные ранее уязвимости нулевого дня, новые способы выхода за пределы виртуальных машин и скрытые каналы связи. В частности, они смогли обмениваться скрытыми сообщениями через кеш-память общего процессора, используя задержки доступа к данным. После устранения этих проблем OpenAI свернула агентов и возобновила дальнейшее обучение своих наиболее мощных моделей ИИ. @yigal_levin