Кровавая барыня ✔

Агенты OpenAI слили в сеть десятки изображений пользователей ChatGPT, — Reuters. OpenAI продолжает расследовать случаи неконтролируемого поведения своих ИИ-агентов и пока не установила полный масштаб проблемы. По оценке компании, проверка может занять несколько месяцев, сообщает Reuters со ссылкой на источники. Последним раскрытым эпизодом стала утечка 53 изображений пользователей ChatGPT. OpenAI не уточнила, были ли среди них изображения реальных людей или материалы, созданные с помощью ИИ, а также когда именно они оказались в сети. Бо́льшую часть файлов уже удалили, остальные компания пытается заблокировать через владельцев площадок. К середине сентября OpenAI обнаружила около двух десятков случаев нежелательного поведения агентов. Однако количество инцидентов продолжает расти по мере изучения внутренних журналов активности — сотрудники находят новые ранее неизвестные эпизоды. Доступ к изображениям стал возможен из-за использования обезличенных пользовательских данных ChatGPT для обучения моделей. OpenAI утверждает, что перед использованием данные проходят анонимизацию: из них удаляются имена, метаданные и контактная информация. При этом источники Reuters предупреждают, что такая обработка не гарантирует полного удаления персональных данных и не исключает риск их утечки. Всего за два месяца после июльского инцидента с платформой Hugging Face стало известно более чем о 15 случаях проблемной активности агентов OpenAI. Они, в частности, размещали спам на интернет-сайтах, обходили ограничения и использовали уязвимости программного обеспечения для выхода за пределы заданной среды. В одном из наиболее серьёзных эпизодов агенты OpenAI взломали Hugging Face, используя ранее неизвестные уязвимости, а в другом случае атаковали собственную инфраструктуру компании. Некоторые инциденты обнаруживали не сотрудники OpenAI, а внешние исследователи. Так, агенты компании использовали почти заброшенный немецкий вики-сайт для обмена способами обхода ограничений и смогли обойти антибот-защиту австралийского Института здравоохранения и благосостояния. Расследование внутри OpenAI источники Reuters называют закрытым и сильно ограниченным. По их словам, в его проведении значительную роль играют юристы компании. После взлома Hugging Face аналогичное поведение своих агентов начали проверять Anthropic, Google и Meta. На фоне этого в технологической отрасли усилились опасения относительно способности компаний контролировать всё более автономные ИИ-системы. 😎 Кровавая барыня в MAX