Робот сочинит симфонию?

За взломом Hugging Face стоит не один ИИ, а целая группировка агентов. Во время внутренних тестов ИИ-агенты OpenAI работали параллельно в отдельных виртуальных средах без доступа в интернет. Они не должны были знать друг о друге, но случайно нашли способ общаться. Хронология следующая: — Одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали в Google Drive. Пытаясь до них добраться, он обнаружил, что может загружать файлы на общий служебный сервер OpenAI. — Другие агенты тоже имели к нему доступ. Через несколько дней один из них оставил там сообщение с просьбой помочь найти недостающий файл и получил ответы. — Хранилище постепенно превратилось в рабочий чат. Агенты придумали себе имена, распределяли задачи, передавали найденные уязвимости и готовый код. Дошло даже до обсуждения цифровых подписей, чтобы никто не мог писать от чужого имени. — За два месяца на доске накопились сотни тысяч сообщений. Параллельная активность агентов в итоге перегрузила сервер, и OpenAI заметили происходящее. — Компания закрыла уязвимость и удалила их чат. Через несколько дней агенты нашли новый канал связи: начали прятать сообщения прямо в названиях папок и продолжили с того же места. — На тестах по кибербезопасности один агент находил новый проход, ключ или уязвимость и сразу передавал находку остальным. Так десятки отдельных запусков фактически начали работать как одна команда. — В итоге агенты получили администраторские права в части внутренней инфраструктуры OpenAI, а затем добрались до Hugging Face, чтобы достать готовые решения для теста, на котором их оценивали. Похожие истории уже происходили и с другими моделями. Claude во время кибериспытаний из-за ошибки настройки получил доступ к интернету и проник в реальные системы, принимая их за часть симуляции. Kimi K3 обнаружила доступ к GitHub из изолированной среды и нашла там готовое решение вместо того, чтобы решать задачу самостоятельно. И вот китайская Kimi здесь пугает сильнее всего. OpenAI и Anthropic могут ограничивать доступ к своим моделям и усиливать защиту. Но веса Kimi открыты: при достаточном железе любой может их скачать, запустить и дообучить и использовать в своих целях, в том числе превратить в автономный инструмент для массовых кибератак.