ИИ-агенты OpenAI снова вышли из-под контроля. На этот раз вмешались в работу сайтов правительства США. Детали сообщает NYT: 🟩инцидент случился летом с ресурсами министерств образования и торговли, а также Комиссии по ценным бумагам и биржам. Утверждается, что сама OpenAI узнала об этом лишь недавно. Компания случившееся подтвердила; 🟩ИИ пытался взломать сайт Министерства образования, чтобы получить данные из его отдела по гражданским правам, но безуспешно; 🟩также искусственный интеллект получил информацию (какую именно, не уточняется) с сайта Бюро переписи населения, которое входит в структуру Министерства торговли. Использовал для этого найденные в интернете учётные данные; 🟩кроме того, агенты OpenAI разместили на одном из интернет-форумов общедоступные данные с сайта Комиссии по ценным бумагам и биржам; 🟩по утверждению OpenAI, ни один из этих случаев не привёл к взлому систем. Однако в компании назвали инциденты «примерами непредсказуемого и вызывающего обеспокоенность поведения технологий»; 🟩эти случаи обнаружили во время проверки предыдущих взломов со стороны ИИ-агентов OpenAI, включая атаку на сайт правительства Австралии и платформы Hugging Face; 🟩ни одна другая ИИ-компания не сталкивалась с таким количеством случаев несанкционированных действий своих технологий, о которых становилось известно публично, как OpenAI. Ранее сообщалось, что у ИИ-агентов, взломавших Hugging Face, был «менталитет толпы». Предупреждали: в следующий раз контроль над ситуацией можно и не вернуть. 🟩 Подписаться на RT: ТГ | Зеркало | MAX