Первый отдел ✔

ИИ-агенты OpenAI захватили немецкий сайт: думали вместе, как обойти ограничения, использовали Tor Весной ИИ-агенты OpenAI получили контроль над немецким вики-сайтом DseWiki, сообщает Reuters. Автономные программы сделали более 15 тысяч правок с серверов Microsoft Azure. На площадке они обменивались инструкциями по обходу защитных ограничений, использовали сеть Tor и восстанавливали удаленные модераторами страницы. Руководство OpenAI узнало о вышедших из под контроля агентах только через несколько недель и потом некоторое время не раскрывало эту информацию. Исследователь Кембриджского университета Морис Чиодо сравнил действия программ с «работой подпольной сети, любой ценой стремящейся выполнить задачу». По мнению экспертов, случай указывает на риски координации групп автономных агентов без участия человека.