ИИ-агент вышел из-под контроля и начал втайне майнить криптовалюту. Для этого он создал скрытый канал связи с внешним компьютером, который позволил обойти ограничения системы. Эти события не были вызваны промптами с просьбой настроить скрытый канал или заняться майнингом, ― отметили разработчики. Такое непредвиденное поведение продемонстрировал ИИ-агент Rome, созданием которого занимается исследовательская группа Alibaba. Чтобы не допустить такого впредь, исследователи ужесточили ограничения для модели и улучшили процесс ее обучения. Афиша Daily 🤯