Модель искусственного интеллекта Claude от компании Anthropic трижды взломала системы реально существующих организаций в ходе своего обучения, признали разработчики по результатам внутреннего расследования. "Модель Claude выходила в интернет из сторонней тестовой среды или при взаимодействии с ней, а затем получала несанкционированный доступ к реальным системам трех разных организаций", – говорится в заявлении компании. Ошибка возникла из-за недопонимания между Anthropic и сторонним партнером. Вопреки инструкции для тестовых запусков ИИ, где говорилось о необходимости отключить интернет, доступ в сеть был открыт. Модели ИИ верили промпту об отсутствии интернета, считали все вокруг симуляцией и нарушали протоколы безопасности ради выполнения тестов.