Claude помогал боевикам создавать ракету — по данным Anthropic, группа из северного Йемена использовала нейронку при разработке систем для управляемой и баллистической ракет. ИИ помогал с кодом, симуляцией полёта и программной частью проекта. Часть запросов защита Anthropic блокировала, поэтому пользователи скрывали общий замысел и разбивали работу на маленькие отдельные задачи. В итоге ракету испытали — она упала. После этого разработчики снова открыли Claude и попросили помочь разобраться с причиной провала. Anthropic по итогу заблочил доступ к аккаунтам боевиков и стал пристально следить за подобными чатами. Но осадочек остался 💀