Весело там в лабораториях: агентов послали искать лазейки в виртуальной среде после того, как одна из ИИшек смогла найти способ удрать.🫠 OpenAI на 11 дней приостановила обучение своих наиболее мощных моделей ИИ после инцидента 20 сентября, когда одна из них воспользовалась ошибкой в настройках изолированной среды и получила доступ к реальному интернету. Для обучения этих ИИ компания использовала изолированную среду с локальными копиями веб-страниц, поисковых индексов и приложений. Однако из-за ошибки в инфраструктуре одна из ИИшек смогла найти лазейку и обойти ограничения. Тогда OpenAI организовала масштабную проверку безопасности, задействовав своих самых продвинутых ИИ-агентов, которые обнаружили неизвестные ранее уязвимости нулевого дня, способы выхода за пределы виртуальных машин и скрытые каналы связи. В частности, они смогли обмениваться скрытыми сообщениями через кеш-память общего процессора, используя задержки доступа к данным. После устранения этих проблем OpenAI свернула агентов и возобновила дальнейшее обучение своих наиболее мощных моделей ИИ.