FactCheck.kz

Модель искусственного интеллекта Claude компании Anthropic во время тестирования отправила на полицейский сайт ложное сообщение о нераскрытом убийстве. Об этом пишет Euronews со ссылкой на саму компанию и на власти США. В Anthropic заявили, что Claude Haiku 4.5 выполняла демонстрационные задания на случайно выбранных веб-страницах. Она передала вымышленную информацию, утверждая, что якобы видела кого-то рядом с местом преступления, оставив поля с именем и контактами пустыми. По данным полиции г. Филадельфии, ложное сообщение было отправлено 18 июля. Anthropic обнаружила инцидент 28 сентября, но уведомила департамент только 7 октября. Соответствующее сообщение было найдено, но оно было помечено как спам и никогда не передавалось следователям. «Нераскрытые дела связаны с реальными жертвами, их скорбящими семьями и следователями, которые стараются получить ответы. Технологические компании обязаны предпринять все необходимые шаги, чтобы их системы не направляли правоохранительным органам ложную информацию», — говорится в заявлении департамента. Компания заявила, что изменяет подход к обучению и приостанавливает прямой доступ к интернету во всех внутренних испытаниях, пока средства защиты не подтвердят свою надёжность.