OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI взломать сайт Управления по гражданским правам Министерства образования США. Попытка оказалась неудачной. В ведомстве заявили, что не обнаружили последствий для сайта или своих баз данных. OpenAI заявила, что продолжает расследование так называемого нежелательного поведения своих моделей. Компания подчеркнула, что в проверенных случаях не обнаружила доступа к закрытой информации, компрометации учетных записей или изменения государственных систем. При этом масштаб подобных инцидентов может быть значительно больше. OpenAI обнаружила уже около двух десятков случаев нежелательных действий своих агентов и продолжает находить новые эпизоды. Расследование может занять месяцы. Ситуация показывает новую проблему с автономными AI-агентами: они способны самостоятельно выполнять последовательность действий в интернете, взаимодействовать с реальными системами и принимать решения, которые не были предусмотрены пользователем. Невероятно, но факт…