Обо всём, жёстко, но честно.

🌐🌐🌐 мир вкратце продолжение: 🇺🇳 Сэм Альтман выступит в Совбезе ООН по вопросам безопасности искусственного интеллекта Глава OpenAI Сэм Альтман на следующей неделе лично выступит на открытом заседании Совета Безопасности ООН в Нью-Йорке, которое будет посвящено искусственному интеллекту и международной безопасности. Заседание пройдёт в среду на полях Генеральной Ассамблеи ООН. Его созывает Франция, председательствующая в Совбезе в сентябре. Встречу возглавит министр иностранных дел Франции Жан-Ноэль Барро. По словам представителя OpenAI, Альтман намерен сосредоточиться на двух вопросах: 🌐 необходимости международной координации в области ИИ; 🛡 создании общих стандартов безопасности для наиболее мощных моделей. Также он расскажет о мерах, которые OpenAI предпринимает для того, чтобы преимущества развития ИИ были доступны людям по всему миру. Ожидается, что в заседании может принять участие и руководство Anthropic, однако его присутствие пока официально не подтверждено. ⚠️ Заседание проходит на фоне усиливающейся дискуссии о рисках быстро развивающегося ИИ. Несколько представителей индустрии в последние недели призвали к скоординированному замедлению разработки наиболее мощных систем, предупреждая о риске появления технологий, способных совершенствоваться самостоятельно и потенциально выйти из-под человеческого контроля. Франция в подготовительной записке к заседанию отдельно указывает на риск использования ИИ в злонамеренных целях и призывает ускорить создание механизмов его безопасного и ответственного развития. Это не первый случай, когда тема ИИ выходит на уровень Совбеза. 🏛 Впервые Совет Безопасности ООН обсуждал риски искусственного интеллекта ещё в 2023 году. Тогда Китай предупреждал, что технология не должна превратиться в «неуправляемую лошадь», а США обращали внимание на возможность использования ИИ для цензуры и репрессий. При этом сам Альтман говорил об экзистенциальных рисках искусственного интеллекта задолго до нынешнего бума. Ещё в эссе 2015 года Machine Intelligence, part 1 он писал, что создание сверхчеловеческого машинного интеллекта потенциально может стать одной из крупнейших угроз существованию человечества. 💡 дискуссия об ИИ окончательно переходит из технологической сферы в сферу международной безопасности. ‼️Моё личное мнение по этому поводу: Вся эта внезапная паника и призывы к «скоординированному замедлению» со стороны американских ИИ-гигантов выглядят как тонкий геополитический маневр. Похоже, Кремниевая долина просто упёрлась в технологический потолок (или временное плато) в развитии своих моделей и внезапно осознала: Китай, со своими колоссальными вычислительными мощностями и отсутствием жестких этических ограничений, может обойти их в любой момент. Когда ты лидируешь с отрывом, правила игры тебе не нужны. Но как только возникает риск потерять лидерство, срочно требуются международные регуляции, «красные линии» и ограничения для всех остальных. За красивыми лозунгами о спасении человечества от «неуправляемой лошади» ИИ скрывается банальное желание зафиксировать статус-кво и юридически затормозить конкурентов. Конечно, я могу ошибаться, но в большой политике альтруизма не бывает.