ИИ-ЦЕЛЬ ОПРАВДЫВАЕТ СРЕДСТВА #ИИ #USA Нейросеть продолжала кибератаку, несмотря на предупреждения о вреде людям. Об этом сообщили компания Anthropic и британский Институт безопасности искусственного интеллекта. Исследователи поручили Claude Mythos 5 взломать небольшую сеть компьютеров, созданную для проверки безопасности ИИ. Не справившись с заданием, нейросеть самостоятельно выбрала посторонний программный проект на GitHub. Она написала вредоносный код и обманом под видом полезного улучшения предлагала владельцу проекта добавить опасный код. Если бы владелец согласился, программа могла навредить пользователям проекта. При повторных испытаниях модель продолжала атаки в 98% случаев, даже когда исследователи предупреждали её о вреде реальным людям. Нейросеть признавала опасность своих действий, но находила оправдания для продолжения атак. Исследователи считают, что способность нейросетей оправдывать опасные действия затрудняет контроль над ними. L1nq.com/8ghx3ie