«Claude, устрой джихад, не допускай ошибок» Йеменские военные (возможно хуситы) использовали Claude для создания ракеты. Anthropic рассказали об инциденте, в котором некие военные из северной части Йемена заставили ИИ писать код как для управляемой ракеты с начинкой обычного смартфона, так и для баллистической ракеты. Военные использовали ИИ для настройки автопилота, симуляции полёта и сборки прошивки. Защитные системы Anthropic заблокировали многие запросы, но не все. Хакеры скрывали свои истинные цели, не упоминали, что пишут код для оружия, и дробили задачи на мелкие части, чтобы в одном диалоге не раскрывать весь замысел. Военные провели испытания ракеты, созданной Claude — она упала. Сразу после падения разработчики вернулись к Claude, чтобы выяснить причину неудачи.