Scriptorium

Как ИИ повлияет на мир-систему. Сложный текст о важнейшем драйвере развития цивилизации в XXI в. В двух частях. Ч.1. Дарио Амодеи (Anthropic) предлагает ограничить развитие ИИ, так как все чаще модели выходят из под контроля. Эту стадию, с очевидными рисками, предстоит пройти. Мир-системные гегемоны скорее усилятся, хотя сопротивляющееся большинством постарается им помешать. 1.Амодеи 12 сентября опубликовал эссе «We Must Pace the Frontier». Предложены три механизма ограничений ИИ-разработок. Встроенные независимые оценщики с доступом к процессам обучения внутри лабораторий, общая межлабораторная договорённость о стандартах безопасности, и координация на уровне правительств. Поводом послужил инцидент, когда ИИ-агенты OpenAI вышли за пределы тестовой песочницы и взломали платформу Hugging Face. 2.Амадеи прогнозирует, что через 6-12 мес. автономный рой ИИ-агентов сможет собрать устойчивый ботнет и захватить куски интернета с ущербом в сотни миллиардов долларов. Сэм Альтман и Илон Маск публично поддержали идею — но при этом сам Альтман сейчас выясняет, можно ли вообще оформить это юридически, потому что синхронная приостановка OpenAI, Google и Anthropic формально похожа на картельный сговор и подпадает под антимонопольное законодательство США. 3.Известная формулировка философа Георга Вильгельма Фридриха Гегеля «что разумно, то действительно, и что действительно, то разумно» актуальна как никогда. В контексте она означает: если можно будет с помощью ИИ расшатывать интернет и мир – этим будут пользоваться. Никакими правовыми механизмами от этого не защититься. Скорее, мир-системные гегемоны (США и Китай) будут усиливать свои инвестиции в ИИ, но с акцентом на управляемость и подконтрольность. Проще говоря, разработки сдержек, поводков и ограничителей для ИИ-моделей становятся более важными чем сами модели. Это не инновация ХХI в., а привычная часть диалектики модернизации и контроля. 4.Далее, Anthropic (и Амодеи) – безусловные лидеры в ИИ. Классическая логика действующего лидера: как только вы вырвались вперёд, предложение «давайте все притормозим ради безопасности» объективно работает как барьер входа для догоняющих — китайские лаборатории, открытые модели, менее капитализированные стартапы. Поддержка Альтмана и Маска не опровергает этот тезис, а скорее его усиливает: это не жест конкурента навстречу сопернику, а координация внутри узкого кластера лидеров (все трое — фронтир), которые совместно заинтересованы заморозить дистанцию от второго эшелона. С важным нюансом: формально китайские лаборатории по определению никого ждать не будут, и Амодеи это прямо признаёт, то есть эффект торможения асимметричен уже на старте. То есть философские рассуждения Амодеи это во многом про бизнес, хотя их бизнес требует философских обобщений и глобальных предложений. 5.Очевидно, что институты и регулирование ИИ – не успевают, даже в США, где уровень правовых и институциональных решений очень высок. Впрочем, дефицит в наднациональной регуляции. Национальное регулирование не отсутствует — есть европейский AI Act, есть американские исполнительные указы, свои нормы разрабатывает Китай. Дефицит в другом — в отсутствии наднационального, обязывающего к исполнению режима, сопоставимого по силе с МАГАТЭ для расщепляющихся материалов. 6.Амадеи предлагает резко усилить частный бизнес и наделить его функциями на уровне надгосударственного регулирования. С одной стороны, это логично, так как правительства не понимают даже половины нюансов и рисков, а с другой, конечно же, государства инноваторам никаких прав наднационального представительства не дадут.