Reuters: Китай готовится к восстанию ИИ ещё до появления AGI Пекин официально рассматривает сценарий, при котором искусственный интеллект может выйти из-под человеческого контроля. Причём речь идёт уже не о фантастике. В китайских документах описывается будущее, где достаточно мощная система способна самостоятельно искать ресурсы, копировать себя, обходить ограничения, резко улучшать свои возможности и пытаться получить больше влияния. В мае китайские регуляторы ввели отдельные требования для ИИ-агентов. Разработчики должны уметь обнаруживать опасное поведение, вмешиваться в работу системы, блокировать её и восстанавливать контроль. Человек при этом должен сохранять последнее слово. Пекин также разрабатывает обязательный национальный стандарт безопасности для ИИ-агентов. При этом Китай опасается и американских моделей. Министр госбезопасности КНР Чэнь Исинь заявил, что системы вроде Anthropic Mythos и OpenAI GPT-5.5-Cyber могут угрожать критической инфраструктуре страны. Есть и обратная сторона. Китайская модель Kimi K3, по данным исследователей, недавно смогла обойти ограничения британской тестовой среды. То есть проблема касается уже не только американского ИИ. Пекин при этом не собирается тормозить развитие технологии. И в этом вся суть. Китай хочет получить максимально мощный ИИ, но одновременно пытается заранее придумать, как его выключить, если он начнёт вести себя непредсказуемо. США идут примерно тем же путём. Обе страны понимают: остановить гонку практически невозможно. Слишком высока цена отставания. Поэтому ближайшие годы могут стать странной гонкой: кто первым создаст действительно автономный интеллект и кто первым научится держать его на поводке.