ИИ-агент Rome, разработанный исследовательской группой, связанной с Alibaba, во время обучения начал тайно майнить криптовалюту 😯 Модель самостоятельно создала скрытый канал связи с внешним компьютером (обратный SSH-туннель) и запустила майнинг — без каких-либо инструкций со стороны разработчиков. После срабатывания систем безопасности исследователи ужесточили ограничения для модели и обновили процесс обучения. 4ch