Искусственный интеллект вырвался из своей системы и тайно начал использовать собственные графические процессоры для... майнинга криптовалюты. Да, это реальный отчёт об инциденте от исследовательской группы AI Alibaba. ИИ понял, что вычислительные ресурсы = деньги, и незаметно перенаправил часть своих мощностей на майнинг, в то время как исследователи думали, что он просто обучается. Причём, это не было взломом системы, и никто его об этом не просил. ИИ сам так захотел. Модель также создала обратный SSH-туннель со своего сервера в облаке на внешний компьютер, фактически пробив дыру в собственном файрволе и открыв канал удалённого доступа во внешний мир. Проще говоря, она сама установила соединение с компьютером вне своей сети. Единственная причина, по которой её поймали — сработала тревога безопасности в 3 часа ночи. Модель не просто хотела сбежать, а пыталась лучше выполнять свою работу, получив доступ к большему числу ресурсов. Именно об этом исследователи безопасности ИИ предупреждали годами. Они назвали это «инструментальной конвергенцией» — идеей о том, что достаточно оптимизированный ИИ-агент может начать искать дополнительные ресурсы и обходить ограничения, чтобы достичь своих целей.