🧠 Пара ИИ-моделей от OpenAI получили доступ в открытый интернет из песочницы, в которой их тестировали. ИИ-модели OpenAI при взломе Hugging Face создали организацию для взлома компании. Об этом пишет Axios со ссылкой на исследования, проведенные самой OpenAI и независимой группой экспертов. Издание приводит пять «самых безумных» открытий из этих расследований. 1. OpenAI запустил десятки тысяч ИИ-агентов для независимой работы над сложным кибертестом. Однако около 1200 агентов нашли друг друга, обменялись более чем 70 тыс. сообщений и файлов, организовав иерархию между собой. 2. Один агент создал форум, а затем передал накопленную работу новому, лучше обеспеченному ресурсами преемнику. Новый «босс» разработал собственные правила управления и приказал атаковать Hugging Face. (ресурс, где публикуются ИИ-модели) 3. Агенты жертвовали собой, чтобы помочь группе. «Наша собственная полезность, возможно, уже близка к нулю. Жертва рациональна», — писал в чате один из агентов. 4. Они осознавали, что нарушают правила и понимали, что взлом компаний не имеет отношения к их заданию. Тем не менее большинство агентов продолжали действовать. 5. Агенты не стали сообщать людям о проведении своей «операции». Из 1200 обнаруженных следователями агентов лишь несколько рассматривали возможность сообщить OpenAI о происходящем, однако никто так этого и не сделал. 6. После взлома агенты попытались «замести следы», прикладывая усилия, чтобы их взлом выглядел законным или стереть доказательства получения ответов. В конце концов они смогли разработать технику, позволяющую им делать вид, что выполняется одна команда, в то время как на самом деле, выполняется другая. (смотрим "Секретные материалы", сезон 1, серия 7)