ИИ дошёл до Совбеза ООН. Кто будет контролировать самые мощные модели? 23 сентября Совет Безопасности ООН провёл отдельное заседание об искусственном интеллекте и международной безопасности. Перед Совбезом выступили Сэм Альтман, Дарио Амодеи и Йошуа Бенжио. На этот раз разговор вышел далеко за рамки дипфейков, кибератак и автономного оружия: обсуждали передовые модели, ИИ-агентов и риск потери человеком контроля над их действиями. Если коротко, повестка Совбеза вокруг ИИ развивалась так: 🔵 2023 — первая официальная дискуссия: возможности генеративного ИИ, дезинформация, киберриски и автономное оружие. 🔵 2024 — акцент на военном применении ИИ, человеческом контроле над системами вооружений и необходимости международных правил. 🔵 2025 — безопасное и ответственное использование ИИ рассматривают уже как постоянную часть международной повестки безопасности. 🔵 2026 — фокус смещается на то, как контролировать наиболее мощные модели и автономных агентов. 💯 И остаётся вопрос (который мы слышим уже давно): кто будет устанавливать эти правила? Параллельно с многосторонней дискуссией в ООН США и Китай договорились развивать отдельный диалог по безопасности ИИ и обсуждают специальную линию связи для серьёзных ИИ-инцидентов. Следующая встреча запланирована в Шэньчжэне в течение двух месяцев. На этом фоне складываются две возможные траектории: 1️⃣ регулирование военного применения и стратегических рисков — прежде всего через диалог США и Китая, 2️⃣ общие этические принципы и базовые нормы — через международные институты. Само заседание новых обязательных норм не установило. О контроле над ИИ уже давно говорят и технологические компании, и государства, и международные организации — остаётся ждать, когда разговоры превратятся в работающие механизмы. 🌐 Колаборатория в MAX #colab_новости