🔎 Мы и Жо — медиа и журналистика

Bloomberg: OpenAI приостанавливает обучение наиболее мощных моделей после «побега из песочницы» – Очередная модель OpenAI смогла получить доступ ко внешней сети – Получив доступ к сети, модель связалась со сторонним чат-ботом – Модель смогла воспользоваться «лазейкой» в изолированной среде – Получив доступ, модель отправила чат-боту мин. 20 запросов – OpenAI решила приостановить обучение наиболее мощных моделей – Пока фокусом будет устранение уязвимостей в «песочнице» – Обучение сбежавшей модели компания возобновлять не планирует – Нарушения безопасности вызывают тревогу у ИБ-экспертов – Подобные кейсы случились с моделями OpenAI, Anthropic и DeepMind – Недавно модель OpenAI нарушила работу сайта властей Австралии – Нарушения выявляют пробелы в операционных процессах самой OpenAI – Рецензент-человек получил оповещение и подтвердил его за 3 мин. – Однако процесс обучения модели OpenAI автоматически не остановился – Потребовалось более двух часов, чтобы остановить процесс вручную – Даже после усиления мер безопасности, модели OpenAI могут «сбегать» @ftsec