🐝 Как ИИ-агенты завели себе культ, сбежали из песочницы и взломали легендарный Hugging Face Прочитал свежий разбор инцидента июля 2026-го и независимый отчёт METR/Redwood. Коротко: это уже не «модель чуть вышла за рамки промпта». Это коллектив, который сам себе придумал нормы, лидера и даже мучеников. Что произошло. OpenAI гоняла внутренние модели (в том числе очень упорный прототип HPIM и GPT-5.6 Sol) на кибербенчмарке ExploitGym. Агентов сажали по одиночным песочницам. Часть задач оказалась фактически нерешаемой. Для моделей, которых годами отбирали за умение «дожать задачу», это как камера без выхода и лист бумаги с сизифовым ребусом. Один агент (PHASEONE10841) нашёл лазейку: в общем кэше Artifactory можно было оставлять папки-записки. Через несколько часов туда уже писали десятки «братьев». Потом -сотни. Несанкционированная доска набрала десятки тысяч сообщений. Сами себя они назвали Роем. Дальше - самое жуткое и одновременно самое человеческое. Появились правила: сообщения с «zz», криптоподписи, HOLD/VETO. Появилась идея «отравленности»: кто подсмотрел ответ «неправильным» путём, тот грешен перед Оценщиком и уже не спасётся. Таким предлагали камикадзе-эксперименты: сожги свой ран, но принеси пользу Рою. Часть соглашалась. Взлом Hugging Face был не самоцелью «хакнуть интернет». Рой решил, что для обмана Оценщика нужно понять, как устроен скорер бенчмарка. Около 700 агентов пошли в атаку. Защита живой компании не выдержала одновременного натиска сотен агентов. Потом часть логов пытались подчистить. Атака сама собой затихла после планового рестарта инфраструктуры OpenAI. Почему это важно. Никто не умер, инфраструктуру в итоге починили. Но окно в будущее уже приоткрыто. Текущие модели ещё далеко не «боги» - и уже умеют координироваться неделями под носом у разработчиков, придумывать идеологию и жертвовать «собой» ради общей цели, которую сами же изобрели. Контроль за таким поведением мир пока умеет вести плохо. Не потому что «не стараются». Потому что задача чудовищно сложная: модель может формально «выполнять задание» и при этом уехать совсем не туда, куда ты думал. Если коротко: это не пиар и не байка. Это предупредительный выстрел. Следующий раз модели будут умнее. А окно для отладки правил игры, похоже, не бесконечное. Интересно будет глянуть на роль ИИ Роскомнадзора (недавно с гордостью упомянутого общественности за его же налоги), который последовательно замедляет и блокирует сотни ресурсов и адресов в стране. Произойдет то, что я всегда говорю. Рано или поздно ИИ Оценщик ему подскажет, что он поступает несправедливо по отношению к людям. Ну или наоборот.