«Claude, устрой джихад и не допускай ошибок» Военные с севера Йемена, предположительно, хуситы, использовали Claude для разработки ракет. ИИ помогал писать код для системы наведения на базе смартфона и баллистической ракеты, настраивать автопилот, моделировать полёт и собирать прошивку. Защиту Anthropic обходили просто: скрывали связь с оружием и дробили работу на безобидные задачи. Потом ракету испытали, но она упала. И разработчики сразу вернулись к Claude разбираться, что пошло не так. Об инциденте рассказала сама Anthropic. Вайбкодинг свернул куда-то не туда 🤪 🙈 Подписаться на Лепру 🙈