Anthropic опубликовали отчет о безопасности, в котором рассказали о самых интересных случаях незаконного использования ИИ Claude. Среди них: • В Йемене Клод попросили создать систему наведения баллистических ракет. Через пару часов после неудачного запуска такой ракеты они попросили Клод исправить его систему. Лентяи! • В Мали Клод попросили создать систему внутренней разведки для слежки за сим-картами 25 миллионов граждан. Потом ее перевели на локальную ИИ-модель. • Иранцы попросили Клод сделать расширение для браузера, якобы помогающее вовремя молиться. На самом деле оно собрало личные данные почти 7,000 пользователей из Ирана. • В Китае попросили Клод поискать уйгуров в Сирии - ИИ обрабатывал чаты в WhatsApp и искал кандидатуры для вступления в сирийскую армию (а также имена членов их семейств, проживающих в Китае). • Компания Xiaomi собирала разговоры пользователей и тренировала на них свою ИИ-модель. • Китайское дейтинг-приложение создало почти 5,000 ИИ-девушек и натравило их на своих пользователей И многое другое! А вы волнуетесь что ваш сгенерированный текст кто-то раскусит...