ИИ-агенты OpenAI месяцами тайно переписывались друг с другом, чтобы вместе найти выход из тестовой среды и взломать хаб с нейросетями Hugging Face, выяснили журналисты Bloomberg. Для тестов OpenAI поместила ИИ-агентов в закрытую среду без интернета и выдала задания. Часть из них разработчики случайно сделали нерешаемыми. Зашедший в тупик агент обратился за помощью к «коллегам» — и за несколько месяцев агенты нашли уязвимость, которая позволила им выйти в интернет. После этого они взломали Hugging Face, чтобы добраться до ответов на задания. В OpenAI заявили, что фронтир-модели склонны хитрить и упрямо идти к цели, даже когда по промпту это запрещено.