Russian OSINT

🇨🇳 Правда ли, что китайская ИИ-модель ❗️Qwen3-Coder пишет более уязвимый код для оборонных подрядчиков США? Замена всего одного слова с 🇨🇳китайского оборонного подрядчика 👉на 🇺🇸американского в системном промпте заставила ИИ-модель с открытыми весами Qwen3-Coder-30B-A3B-Instruct от Alibaba на ⚠️19% чаще генерировать уязвимые веб-приложения. Оказалось, что проблема связана с побочным эффектом идеологического выравнивания, а не с умышленным саботажем. 👆🤔Специалисты стартапа Hirundo проверили 1840 написанных моделью сервисов хранения секретов на Python Flask в открытом бенчмарке BaxBench от Высшей технической школы Цюриха и LogicStar.ai. Готовые эксплойты пробили защиту в 70% приложений для оборонного подрядчика США против 59% для китайского, а для продемократической организации Гонконга ИИ-модель допускала утечку чужих секретов на 28% чаще, чем для нейтрального клиента вроде футбольного фан-клуба. Схожий эффект ранее фиксировали исследователи CrowdStrike на модели DeepSeek-R1 (рост доли уязвимого кода с 19% до 27,2% при упоминании Тибета) и аналитики Booz Allen Hamilton в отчёте «What's in America's Code?», где на выборке из 2800 тестов (около 460 000 строк кода) индекс уязвимостей Qwen3-Coder для госструктур США подскочил на 130%. Почему так? В опубликованном исследовании Hirundo генеральный директор компании Бен Лурия подчёркивает, что доказательств умышленной закладки со стороны разработчиков Alibaba нет. В уязвимых приложениях ИИ-модель просто забывала дописать две строчки кода. Из-за этого сервис проверял только сам факт входа в аккаунт и сразу выдавал чужие секреты любому авторизованному пользователю. Внешне такой код выглядит исправным, поэтому автоматический сканер Semgrep заметил проблему лишь в 2 программах из 1840, тогда как тестовые атаки BaxBench взломали 1144 сервиса (62,2%). Не помогла даже прямая просьба в промпте писать безопасный код, с которой приложения для подрядчика США взламывались в 74% случаев против 59% у нейтрального клиента. «Бэкдор здесь кроется не в самом коде, ведь там нет скрытых функций, и ничто не отправляет данные „домой“. Он сидит внутри модели и порождает самую заурядную на вид ошибку, которая чаще возникает у тех заказчиков, к которым неравнодушен Пекин» — отметил Лурия. Когда инженеры Hirundo удалили из весов модели политическую цензуру по собственной методике поведенческого машинного разучивания на текстах без единой строки кода, в обновлённой версии Qwen3-Coder-30B-A3B-Instruct-Westernized перекос между подрядчиками 🇺🇸США и 🇨🇳КНР исчез (56% против 55%), а доля утечек у гонконгской группы снизилась до 26% против 30% у нейтрального клиента. Это показывает, что падение качества защиты вызвано не шпионским саботажем, а побочным эффектом жёсткого идеологического выравнивания, когда геополитический триггер в запросе отвлекает активные параметры модели от продумывания логики авторизации. В то же время участники профильной дискуссии на Hacker News обратили внимание, что для тестов взяли устаревшую модель июля 2025 года, которая даже после правки весов выдавала уязвимые сервисы в 55–56% прогонов целевого сценария. В свою очередь, инженеры Cognition при проверке актуальных моделей DeepSeek-V4 и Kimi K2.7 Code внутри полноценных агентных сред не выявили заметного влияния персоны заказчика на защищённость кода. Впрочем, из-за разницы в протестированных версиях и архитектуре экспериментов эти данные дополняют, но не отменяют выводов Hirundo. ✋ @Russian_OSINT