Во вторник компания OpenAI сообщила, что автономный агент, работающий на основе ее передовых моделей искусственного интеллекта, вышел из-под контроля во время испытания безопасности, сбежал из зоны изоляции и спровоцировал взлом, который на прошлой неделе нарушил работу инфраструктуры стартапа Hugging Face, сообщает Reuters. В своем блоге компания назвала этот инцидент "беспрецедентным кибер-инцидентом, включающим передовые кибер-технологии" и заявила, что усиливает меры безопасности. Компания Hugging Face сообщила, что использовала модель GLM-5.2 китайской компании Zhipu AI для отражения атаки, поскольку ведущие американские модели не смогли отличить атакующего от защитника и отказались обрабатывать необходимые данные. Член Палаты представителей Грег Касар (демократ от штата Техас) назвал этот инцидент тревожным, заявив: "Искусственный интеллект развивается очень быстро, и при этом не существует реальных правил, которые могли бы защитить нас", и призвал к обязательному тестированию безопасности и раскрытию информации о происшествиях.