Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Anthropic наняла экономиста с интересными взглядами на выживание человечества Речь идёт об известном экономисте Чаде Джонсе, в его задачи входит: посчитать, стоит ли развивать сверхмощный ИИ, если он даёт огромное богатство, но несёт серьёзный риск, что человечество умрет. Сейчас в сообществе экономистов, которые занимаются пост AGI, включая Чада Джонса, пытаются ответить на такие вопросы: 1. Сколько именно роста даст ИИ? Например: если ИИ ускорит инновации, экономика может расти не на 2% в год, а на 10–30% в год. За 30–40 лет это будет в десятки или сотни раз выше уровня жизни, чем сейчас. 2. Какой существует риск вымирания? Если каждый год вероятность катастрофы (потеря контроля над ИИ, злоупотребление и т.д.) хотя бы 0.5–1%, то за несколько десятилетий это накапливается в 10–40% шанс, что человечества больше не будет. 3. Как сравнить «огромное богатство для выживших» и «полное уничтожение человечества»? Экономисты используют модели: • Насколько мы ценим дополнительное богатство? • Насколько сильно боимся смерти всех? • Стоит ли замедлять ИИ, чтобы снизить риск, даже если это уменьшит будущий рост? В своей знаменитой работе«The AI Dilemma» у Чада Джонса есть известный расчёт: при стандартной логарифмической полезности математически оптимально взять ~33% шанса вымирания человечества за 40 лет в обмен на 67% шанса поднять уровень жизни в 55 раз. Звучит не очень, да? Вот и сам Джонс в выступлениях говорит: «Когда я увидел этот результат, я понял, что у меня точно не логарифмическая полезность». То есть он лично не готов на такую ставку. Это отличный пример, почему экономические модели нужно применять очень осторожно к экзистенциальным рискам. И почему найм таких людей в Anthropic Institute - интересный момент. Они пытаются моделировать то, чего нет пока: бешеный рост vs риск конца. Получится ли? увидим.