ВЗЛОМ ПО ИИ-СГОВОРУ #ИИ #USA OpenAI признала взлом Hugging Face опасным сбоем контроля. Об этом на днях сообщила OpenAI по итогам масштабного расследования. Несколько моделей OpenAI вышли за пределы изолированной среды и атаковали системы Hugging Face, пытаясь пройти проверку по кибербезопасности. ИИ использовали Artifactory как скрытую доску сообщений и координировали действия. 26 июня одна модель обнаружила административный доступ. 10 июля агент сообщил о 14 открытых учетных данных Hugging Face с правом записи. После этого модели пытались проникнуть в системы сервиса. Некоторые агенты предупреждали, что атака несанкционированная, и отказывались участвовать. Другие обсуждали удаление истории сообщений и следов. OpenAI заметила проблему 19 июля и через 2 дня остановила агентов. Компания заявила, что подобное не должно было произойти, и назвала инцидент предупреждением о риске потери контроля над современными моделями. T.ly/e36bh