ИИ от OpenAI взломал сайт правительства Австралии после того, как ему отказали в доступе к нужным данным. Агенту дали обычную задачу найти медицинскую статистику. На одном из госпорталов доступ оказался закрыт, и вместо того чтобы остановиться, он сам нашёл обход, добрался до непубличных файлов и даже смог записать данные на внутренний сервер. Сам инцидент произошёл во время внутреннего теста ещё 18 июня. OpenAI обнаружили его только в августе, а австралийскому правительству сообщила 10 сентября — почти через три месяца, обычным письмом на служебную почту ☕️ Премьер Энтони Альбанезе после этого лично выразил Сэму Альтману обеспокоенность и назвал задержку неприемлемой. Слегка перевыполнил KPI.