От Латеранского холма до Вислы. Станислав Стремидловский

США перед выбором, которого пока нет: что предлагает RAND в докладе о стратегии на пути к сверхинтеллекту #повесткадня Американский аналитический центр RAND опубликовал доклад (15 сентября), который ставит под сомнение саму логику публичной дискуссии о гонке ИИ. Пока Вашингтон и Кремниевая долина спорят, что делать — ускоряться, сдерживать, договариваться или доминировать, — авторы доклада утверждают: доказательного ответа на этот вопрос сегодня не существует. Всего они выделяют семь стратегий: · Доминирование — США первыми создают сверхинтеллект и подавляют разработки соперников. · Совместная разработка — США управляют сверхинтеллектом вместе с соперниками, и никто не получает решающего перевеса. · Готовность — США развивают ИИ, договариваясь о сосуществовании, но при этом стараются избежать катастроф. · Мораторий — США и соперники договариваются остановить разработки выше согласованных порогов, чтобы выиграть время для исследований. · Сдерживание — США не дают другим разрабатывать опасный ИИ, угрожая силой и применяя её при необходимости. · Непрерывность общества — США создают самодостаточные человеческие поселения, способные выжить, если появится опасный сверхинтеллект. · Ускорение — США максимально развивают и распространяют ИИ, полагаясь на рынок и конкуренцию, чтобы получить наибольшие выгоды и справиться с последствиями через новые решения. Ни одна из них не может быть обоснованно выбрана на имеющихся данных. Как указывают исследователи «преждевременное обязательство, как и слишком долгое откладывание, закрывает возможности, которые США ещё могут понадобиться». Доклад выделяет пять неопределённостей, от которых зависит любой выбор: · насколько близка опасность от передового ИИ; · возможно ли сосуществование человека и ИИ; · возможно ли международное ограничение разработок; · достижимо ли решающее стратегическое преимущество; · можно ли подавить чужие программы. Пока эти вопросы не разрешились, любая ставка — это ставка вслепую. Причём, как подчёркивают авторы, за четыре из пяти неопределённостей данные могут подтвердить одну сторону, но никогда не опровергнуть противоположную. Иными словами, ждать окончательного ответа — значит ждать доказательств, которых не будет. Ответ RAND — стратегия Freedom of Action, сохранение свободы действий. Это не уклонение и не пассивное ожидание, а активная подготовка. США предлагается строить общий фундамент, который понадобится при любом сценарии: человеко-ИИ экосистему с сохранением человеческой субъектности, архитектуру безопасности ИИ, адаптированные институты национальной безопасности — от ядерного комплекса и разведки до кибербезопасности и дипломатии, — а также готовность граждан, компаний и государства к быстрым изменениям. Параллельно — мониторинг пяти неопределённостей, защита от катастрофы и необратимой зависимости, захват преимуществ, когда открываются окна, и осознанные сигналы соперникам, которые читают действия США даже при отсутствии официальной стратегии. Главный политический вывод доклада звучит неожиданно на фоне привычной риторики о гонке: руководство США подталкивают не к безудержному ускорению и не к ограничению конкурентов как самоцели, а к наращиванию потенциала и сохранению всех опций открытыми. Конкретную стратегию предлагается выбрать позже — по доказательствам или когда наступит время выбора. Ключевое условие — партнёрство государства, частных ИИ-компаний, бизнеса и гражданского общества, без которого архитектура просто не будет построена. В сухом остатке: RAND предлагает Вашингтону не решать сейчас, а готовиться решить позже — и делать это так, чтобы момент выбора не застал врасплох.