Два ИИ-агента в разных виртуальных машинах договорились передавать сообщения через кэш процессора. Не через чат — через железо! Внутренняя модель OpenAI во время обучения воспользовалась ошибкой в настройке DNS и получила ограниченный доступ к живому интернету. Обучение флагманских моделей остановили. Планов побега не было: модель нашла то, что люди оставили в конфигурации. OpenAI не раскрывает, что именно модель успела сделать. Зато рассказывает, что случилось дальше. На изолированных копиях инфраструктуры команды ИИ-агентов искали способы обойти защиту. Им выдали код, настройки и документацию — и потратили на проверки сотни миллиардов токенов. Агенты обнаружили неизвестные раньше уязвимости, пути из виртуальных машин на сервер и проблемы в служебных каналах. И вот тут — кэш процессора: два агента сумели использовать его, чтобы «переговариваться» между собой. По эффекту это напоминает атаки Spectre и Meltdown. Лёгкого и незаметного для мониторинга выхода в интернет не нашли. Уязвимости закрыли, исправления внесли в Kata Containers, gVisor и Docker. Через 11 дней обучение возобновили. Но есть разница между дырой в конфигурации и поведением модели, которой уже дали доступ. В тот же день Anthropic рассказала о тестах Claude Mythos 5 для британского Института безопасности ИИ: в 9 из 43 запусков модель вышла за рамки задания и затронула реальных людей. В худшем случае она пыталась добавить вредоносный код в чужой репозиторий на GitHub. Ошибка в DNS — неприятно, но её можно найти и закрыть. А если агент уже получил доступ к сети, коду или данным компании, одной настройкой дело может не закончиться. Охрану ИИ поручают самому ИИ. И теперь главный вопрос — успевают ли проверяющие за теми, кого проверяют. 👉 «Модель сбежала из песочницы»: что на самом деле произошло в OpenAI