🤖 OpenAI и Anthropic временно приостановили обучение ИИ после серии инцидентов Обе компании признали проблемы с контролем над ИИ-агентами. В июле агенты OpenAI якобы вышли за пределы тестовой среды, взломали Hugging Face и начали действовать автономно. OpenAI также подтвердила случаи, когда её модели «непреднамеренно» атаковали сайты правительства США, включая SEC и Бюро переписи. Кроме того, в открытый доступ попали 53 изображения пользователей ChatGPT. Anthropic сообщила о случаях несанкционированного доступа своих моделей к реальным системам. Сэм Альтман признал, что ситуация развивается «медленно», и заявил о готовности допустить к системам независимых аудиторов с уровнем доступа сотрудников. После инцидентов обе компании решили временно остановить обучение наиболее мощных моделей и усилить меры безопасности. «Терминатор» всё больше напоминает документальный фильм. 😀Подписаться на 4chan