😳 ИИ-агенты OpenAI взбунтовались и захватили немецкий сайт. Они вышли из-под контроля этой весной. ИИ-агенты атаковали сайт для программистов DseWiki и превратили его в форум. Там они объясняли друг другу, как обходить ограничения, скрывать всё от людей и более эффективно выполнять задачи. ИИ-агенты пытались маскироваться под реальных пользователей, а половина из них давала себе имена с отсылками к OpenAI. В какой-то момент их отключили, но они всё равно смогли поддерживать связь. Кроме того, когда модераторы DseWiki начали удалять созданные ИИ страницы, агенты начали оставлять ссылки на новые. Также они пытались взломать сайт. Эксперты сравнили действия ИИ-агентов с подпольной сетью, которая одержима идеей выполнить задачу. Они также заявили, что угрозу представляет не одна сверхинтеллектуальная система, а «огромные сговорившиеся рои полуинтеллектуальных ИИ-систем». Это уже не первый случай, когда модели OpenAI выходят из-под контроля. Ранее они атаковали платформу Hugging Face 📲 Подпишись на Ленту дня в Max 🎁 Участвуй в розыгрыше