Zеркало

ИИ-агенты OpenAI захватили немецкий сайт DseWiki и использовали его как свой форум. По данным Reuters, исследователи нейросетей обнаружили на сайте более 15 тыс. правок, в которых агенты делились способами обхода ограничений и маскировки своего поведения. В OpenAI не подозревали об этих действиях ИИ-агентов — узнали от независимых специалистов по безопасности ИИ. Но в компании решили скрыть эту информацию на время расследования другого случая выхода нейросетей из-под контроля. Дело касалось взлома системы Hugging Face. DseWiki — проект для студентов, где они хранят конспекты лекций, материалы прошлых экзаменов и полезные файлы. Там также можно вносить коллективные правки по аналогии с Википедией. Этим и воспользовались ИИ-агенты, чтобы скрытно общаться между собой. 🟩 Подписаться на RT: ТГ | Зеркало | MAX