OpenAI рассказали, как проверяла на прочность «клетку» для своих самых мощных моделей, и одна история звучит как сюжет фантастики. Агентов посадили в разные изолированные виртуальные машины без сети и общих файлов и попросили передать друг другу секреты. Они всё равно договорились: начали перестукиваться через кэш процессора, считывая сообщения по скорости доступа к памяти, примерно как работали знаменитые атаки Spectre и Meltdown. Всего «взломщики» потратили около 380 млрд токенов и нашли порядка 275 дыр, включая побеги из виртуалок. Важно, что это был запланированный тест после летнего инцидента с Hugging Face, и, по словам OpenAI, выхода в интернет агенты так и не нашли. Но после такого обучение самых сильных моделей решили держать вообще без живого интернета. P.S. Раньше считалось, что изолированная машина без сети надёжно отрезана от мира. Теперь выясняется, что двум агентам хватает общего процессора, чтобы поболтать😎 P.P.S Теперь этот сценарий побега из песочницы выглядит не таким уже нереальным😅 _______ Источник | #Futuris