🔥 CEO OpenAI изложил сотрудникам три возможных пути глобальной безопасности ИИ Сэм Альтман изложил сотрудникам OpenAI три возможных сценария обеспечения безопасности при разработке сверхинтеллекта: 1. Создание глобальной регулирующей организации по образцу МАГАТЭ. Такой орган инспектировал бы передовые модели и аудировал меры безопасности; 2. Объединение крупных ИИ-лабораторий в одну организацию или их сотрудничество через единое агентство по примеру CERN. Вместо конкуренции компании совместно работали бы над безопасностью разработок; 3. Самый радикальный — Альтман назвал его «Планом Элиезера»: одна компания первой достигает рекурсивного самоулучшения ИИ, получает подавляющую экономическую мощь и использует её для контроля вычислительных ресурсов. Конкуренты в таком случае не смогли бы её догнать. Альтман описал эту идею как «расплавить GPU всех остальных компаний». Также он сообщил, что OpenAI не может позволить себе уступить конкурентное преимущество соперникам в настоящий момент Идеи не новы: OpenAI предлагала создать «ИИ-версию МАГАТЭ» ещё в 2023 году, а глава Google DeepMind Демис Хассабис выступал за «ИИ-версию CERN» 🧑💻 Этичный хакер