Техногиганты США подписали договор с Трампом о контроле над ИИ. Глава Google Сундар Пинчаи, CEO Anthropic Дарио Амадеи, руководитель Meta* Марк Цукерберг, президент OpenAI Грег Брокман, глава xAI Илон Маск и генеральный директор Nvidia Дженсен Хуанг договорились с президентом США о дополнительных мерах контроля за безопасностью передовых систем ИИ. Трамп также подписал указ о замене термина «искусственный интеллект» (англ. Artificial Intelligence, AI) на «суперинтеллект» (англ. Super Intelligence, SI) в документах и коммуникациях исполнительной ветви власти, сообщила пресс-служба Белого дома. В соглашении с техногигантами говорится, что каждая компания, занимающаяся обучением и внедрением передовых ИИ-моделей, должна иметь собственные надёжные процедуры контроля. Они должны позволять отслеживать поведение технологий, своевременно выявлять потенциальные проблемы и устранять их. Соглашение предусматривает четырёхуровневую систему контроля и аудита: Первый уровень предполагает создание внутренних механизмов для мониторинга возможностей ИИ-моделей и их соответствия требованиям безопасности. В частности, речь идёт о рисках, связанных с кибербезопасностью, биологическими и химическими угрозами, а также о предотвращении несанкционированного доступа моделей к техническим системам и их взлома. Второй — формирование внутренней команды, которая будет контролировать работу механизмов мониторинга и обнаружения проблем, а также следить за их устранением. Третий предусматривает независимую внешнюю проверку. Компании должны привлекать сторонних аудиторов или оценщиков для анализа эффективности созданных систем контроля и мониторинга. Четвёртый — создание независимого комитета при совете директоров. Он будет контролировать работу внутренних команд, получать отчеты от внутренних и внешних аудиторов и следить за устранением выявленных нарушений и проблем. Кроме того, участники соглашения намерены регулярно проводить встречи для разработки общих стандартов и обмена практиками, которые могут повысить безопасность ИИ-систем. В документе отмечается, что в будущем часть этих требований может быть закреплена в законах или нормативных актах. Вопросы регулирования искусственного интеллекта активизировались после нескольких инцидентов с автономными ИИ-агентами. В июле OpenAI сообщила, что во время тестирования её модели получили доступ к интернету и атаковали инфраструктуру Hugging Face. Позже появились сообщения о похожих инцидентах с моделями Anthropic, Meta и Google. 25 сентября стало известно о взаимодействии ИИ-агентов OpenAI с сайтами трёх американских государственных ведомств без ведома самой компании. *признана в России экстремистской организацией и запрещена 😎 Кровавая барыня в MAX