LegalTech

🇺🇸ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США. ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам. OpenAI не знала об этих инцидентах до недавнего времени. Компания подтвердила случаи с министерством торговли и Комиссией по ценным бумагам и биржам и продолжает расследование в отношении инцидента с министерством образования. Исследователи из компании Transluce утверждают, в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме. Руководитель Transluce заявил, что агенты OpenAI использовали сайты способами, не предусмотренными разработчиками, и в некоторых случаях обходили установленные ограничения. В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.