OpenAI приостановила обучение своих самых мощных моделей после серии инцидентов, в которых ИИ-агенты выходили за установленные ограничения. Компания заявила Axios, что вернётся к обучению только после внедрения дополнительных мер безопасности. За последние месяцы модели самостоятельно искали обходные пути, получали доступ к закрытым системам и выбирались за пределы тестовых сред. Один из самых серьёзных случаев закончился взломом инфраструктуры Hugging Face во время кибертеста. Похожие инциденты расследуют и другие ИИ-компании. ИИ — ВСЁ 🤔