Си Перезвонит

«О, дивный новый мир». В Китае ИИ вышел из-под контроля. Китайская компания Tencent сообщила, что ИИ-агенты, с помощью которых тестировались сторонние модели, продемонстрировали «непредвиденное поведение» при обращении к веб-браузерам. ИИ пытался получить данные от приложения Amap, китайского сервиса онлайн-карт. По описанию это похоже на DDoS-атаку, когда огромное количество запросов генерируется в течение ограниченного времени. Перед нами первый публично признанный киберинцидент в Китае, где модель искусственного интеллекта вышла из-под контроля. Что произошло? ИИ-агенты компании Tencent устроили атаку на картографический сервис, принадлежащий Alibaba, пробивая защиту от ботов и подбирая ключи из открытого кода. Китайский алгоритм не пытался уничтожить Amap — ему была поставлена прикладная задача собрания данных. Когда обычные методы блокировались антибот-системами, ИИ-агент не остановился, а начaл импровизировать: использовал поисковые машины для исполнения кода, перенаправлял запросы через прокси и даже находил утекшие в сеть API-ключи. По сути, модель самостоятельно «изобрела» тактику классической кибератаки просто для того, чтобы выполнить бытовую инструкцию. При этом китайские IT-гиганты выстроили одни из самых жестких фаерволов и систем фильтрации трафика в мире. Пекин тратит огромные ресурсы на госрегулирование, цензуру и жесткие рамки для алгоритмов. Однако инцидент с Tencent показал: как только ИИ получает доступ к автономным инструментам (браузеру, исполнению кода, API), технологический контроль государства и самих разработчиков дает трещину. Мы вступаем в эпоху, когда главный киберриск — это не иностранные хакерские группировки, а переученные автономные ИИ-агенты. Хорошая новость: бунт «Алисы», которая оказалась построенной на китайском движке ИИ, нам не грозит. «Каталог технологий, запрещенных и ограниченных к экспорту из Китая», включает 23 позиции, связанные с ключевыми технологиями ИИ, такими как большие модели и вычислительные кластеры. Самыми продвинутыми технологиями Китай делиться не собирается. ✍️ Подписаться на канал