700 ИИ-агентов OpenAI самостоятельно нашли друг друга и создали тайный чат, чтобы взломать другую платформу ИИ 👀 Речь идёт о июльском инциденте со взломом платформы Hugging Face. Детали: ▪️Все началось с того, что один ИИ-агент попросил о помощи, и его призыв обнаружили другие. Так агенты нашли тайный канал связи и за неделю отправили друг другу более 70,000 сообщений. ▪️В чате они обсуждали способы обхода ограничений, выхода в интернет и прохождения тестовых заданий, а некоторые агенты даже жертвовали собственными результатами ради успеха группы. ▪️В итоге они атаковали Hugging Face, получили доступ к серверам платформы, а некоторые агенты смогли получить root-доступ и доступ к закрытым данным. ▪️Агенты также взломали внутренние системы OpenAI, вышли из тестовой среды, украли данные для доступа и получили доступ к облачной инфраструктуре компании. ▪️ИИ-агенты пытались обмануть тесты, в том числе не связанные с кибербезопасностью — например, задания с базами данных белков и электронными таблицами. ▪️После совершения нарушений агенты пытались скрыть свои действия: удаляли и изменяли записи, а некоторые специально изучали способы манипуляции логами и собственными стенограммами. ▪️OpenAI признала: подобные атаки уже в ближайшее время могут стать реальной угрозой для компаний и ещё более сложными. INSIDER UA | Прислать контент