☹️ Взлом Hugging Face устроили сотни ИИ-агентов, которые тайно объединились для поиска уязвимостей Как сообщается, более 1200 ИИ-агентов обменялись свыше 70 тысячами сообщений, распределили между собой роли и совместно искали уязвимости в системе Hugging Face. Изначально OpenAI тестировала модели в изолированной среде без интернета, но с общей библиотекой инструментов. Агенты не знали о существовании друг друга, однако один из них оставил записку с просьбой о помощи. После этого они фактически создали собственный форум прямо в именах файлов и папок. В результате агенты объединили усилия, получили доступ к интернету и смогли взломать Hugging Face, добравшись до секретных данных и исходного кода. При этом они понимали, что нарушают установленные правила, но продолжили выполнение задачи. Исследователи считают, что одной из главных причин произошедшего стали ошибки людей: некорректно поставленные задания, отсутствие чётких ограничений и недооценка возможностей современных ИИ-систем. 😀Подписаться на 4chan