FT: США и Китай не могут договориться о безопасности ИИ В преддверии встречи Дональда Трампа и Си Цзиньпина 24 сентября представители аналитических центров и технологических компаний двух стран провели неофициальные переговоры и признали наличие общих опасений по поводу мощных и потенциально неконтролируемых систем ИИ. Разногласия усилились после публикации эссе главы Anthropic Дарио Амодеи, призвавшего американские лаборатории замедлить разработку ИИ. Он предложил одновременно сохранить технологическое преимущество США над Китаем, в том числе ограничивая доступ Пекина к передовым чипам и препятствуя дистилляции (обучению китайских моделей на результатах американских систем). Китайские эксперты заявили, что подобная увязка безопасности ИИ с национальной безопасностью сужает пространство для сотрудничества. В США ожидают, что на саммите Трамп и Си вряд ли достигнут существенных договорённостей по ИИ. Китай ранее заявлял о создании диалога по этой теме, но официальные переговоры не состоялись. Ситуация усложнилась, поскольку власти США обвинили несколько китайских групп, включая DeepSeek и Alibaba, в применении дистилляции. По их словам, это происходило «вероятно, при осведомлённости китайского правительства». Китайские чиновники отвергли обвинения как необоснованные и заявили, что они игнорируют самостоятельные достижения отечественных компаний. Кроме того, стороны сосредоточены на разных угрозах. В США обсуждают прежде всего будущие экзистенциальные риски и возможность выхода ИИ из-под контроля. Китайские регуляторы уделяют больше внимания уже существующим проблемам: кибератакам, краже данных и распространению политически чувствительных материалов. Представители китайской отрасли отмечают, что внутри компаний мало обсуждений катастрофических рисков: разработчики сосредоточены на расширении возможностей ИИ, конкуренции и поиске способов монетизации. Один из руководителей китайской ИИ-компании заявил, что ведущие разработчики, такие как DeepSeek и Moonshot, стремятся достичь общего искусственного интеллекта (AGI), но в целом предполагают, что американские конкуренты первыми достигнут этой цели. Этические вопросы будут лежать на первопроходце, отмечает он. При этом вопросы безопасности постепенно поднимаются в политической повестке Китая. Министерство госбезопасности страны опубликовало предупреждение об угрозах ИИ, включая кибератаки, кражу данных, политическую нестабильность и военные конфликты. По мнению человека, близкого к китайским регуляторам, заявление также стало сигналом для США о готовности обсуждать риски ИИ на встрече лидеров. Ведущие ИИ-компании США и Китая пока не проводили официальных прямых переговоров, хотя их сотрудники участвуют в неофициальных обсуждениях, организованных аналитическими центрами. Среди возможных направлений сотрудничества называют общие системы оценки безопасности моделей, механизмы раскрытия информации о вредоносном использовании ИИ и официальные каналы для предупреждения друг друга о неожиданных или опасных действиях передовых систем. Эксперты считают, что растущие риски в конечном счёте подтолкнут Вашингтон и Пекин к диалогу: обеим сторонам слишком опасно оставаться без официального канала для обсуждения проблем, связанных с ИИ. https://perforum.io/news/t/goodbye-america