Западный ИИ строят по детским книжкам, китайский — как помощь остальным индустриям. В ИИ-индустрии США популярна логика: «Тормозить нельзя, потому что Китай не тормозит». Американский журналист Дерек Томпсон заметил, что её часто повторяют люди, которые начинают фразу с «я не эксперт по Китаю, но…». Поэтому он две недели обзванивал дюжину экспертов и разложил ответы по семи вопросам. Тезисно. 1️⃣. Одинаково ли США и Китай видят ИИ? Нет. Для Пекина ИИ — одна из многих ставок, рядом с машинами и энергетикой, главная программа так и называется: «ИИ+» — ИИ плюс производство, ИИ плюс наука. США меряют всё вопросом «AGI близко?» (AGI — ИИ умнее человека во всём). А строители ИИ на Западе, по словам Джордана Шнайдера из рассылки о Китае ChinaTalk, в детстве читали утопии вроде «Игрока» британского фантаста Иэна Бэнкса и теперь строят будущее из этих книг. А еще каждый видит будущее через то, что у него уже есть: у Китая мало чипов, зато сильная робототехника, поэтому AGI там представляют через тело и физический мир. 2️⃣. Правда ли, что первый сверхразум даст решающее преимущество? Вряд ли. Эксперты по ядерной безопасности сомневаются, что страна, получившая инструмент, который сама до конца не понимает, первым делом начнёт войну. Опаснее другое: исследования ИИ похожи на эксперименты над вирусами, где утечка из лаборатории бьёт по всем. 3️⃣. Как компартия думает о безопасности? Опасается: глава китайской разведки предупреждал, что ИИ может угрожать власти партии. Но причин ускоряться больше: оружие, слежка, экономика, престиж. Требования по безопасности ИИ к компаниям в Китае — пока в основном про цензуру. 4️⃣. Считают ли в Пекине дискуссии про безопасность ИИ американской уловкой? Да, «Жэньминь жибао» пишет, что это методичка про «китайскую угрозу»: американские компании пугают Китаем, чтобы выбить деньги из Конгресса. Американские лаборатории считают лицемерами: они зовут зарегулировать ИИ и тут же ускоряются. 5️⃣. Что может по-настоящему напугать Пекин? Только инцидент, где жертва — сама партия: рой агентов атакует госбанки, кто-то с помощью китайского ИИ крадёт и сливает секретные документы. После такого, считает Мартин Хорземпа, Китай может зарегулировать открытые модели. 6️⃣. Красные линии или «пейсинг» (договорённость сдерживать темп)? Оба варианта мутные. В 2024 году учёные (от крёстного отца нейросетей Джеффри Хинтона до китайского информатика Эндрю Яо) подписали список красных линий, например «ИИ не должен проводить кибератаки». Ну и как бы все это осталось на бумаге. По словам Раша Доши, эти линии уже пройдены. Полезнее обмениваться данными о рисках и тестах. 7️⃣. Что делать США? Регулировать себя: Китай не примет ограничений, которые Вашингтон не введет у себя. При этом исторически Китай перенимал мировые стандарты безопасности, от химии до европейского закона о данных GDPR. Короче: послание Америки об ИИ всему миру — комично. Лаборатории просят регулировать самих себя, а Трамп называет их тревогу ерундой. Они зовут притормозить развитие моделей, а потом назавтра хвастаются, сколько новых математических задач решили их модели. Из Пекина это видят просто: это большой план навсегда оставить Китай вторым. Но в худшем случае биться будут не США и Китай, а человечество против неуправляемого машинного разума (сразу вспоминается культовый рассказ «У меня нет рта, но я должен кричать» Эллисона). Мир уничтожать пока рано.