😱 ИИ–Claude выявил более 100 тыс. случаев эксплуатации детей Компания Anthropic представила новую систему, которая позволяет Claude после каждого ответа анализировать диалог и оценивать, нет ли в нем подозрительной активности, сообщает Bloomberg. По данным компании, эта ИИ-модель выявляет 78% потенциально опасных диалогов и 94% случаев с высоким уровнем риска. Систему внедрили в июне. За это время она помогла обнаружить более 100 тыс. случаев, связанных с эксплуатацией детей, у одного из клиентов. Также механизм выявлял попытки мошенничества, в которых злоумышленники использовали романтические отношения. Однако подозрительные переписки не блокируют автоматически. Их передают на дополнительную проверку. @kursivm