Синельников-Оришак

Минутка субботнего оптимизма, как мощный аккорд, разложенный по нотам, что по строгому математическому счету и есть Ряды Фурье Обычно мыслят так: у нас дофига технологий вымирания всех человеков. Вот ядерное оружие, искусственный интеллект, биотехнологии, климатические изменения, всякие наноигрушки - мы постоянно мутим какую-то технологию, и иногда выпадает опасная. Тут провели матмоделирование ситуации. Сразу отметим, очень уютно натягивая сову на глобус, но точка зрения как минимум забавная. Существует риск состояния: на каждом уровне технического развития - свой. Сейчас, к примеру, нельзя сдержать ядерную войну и развитие биопатогенов. Если остановить прогресс, эти две угрозы все-равно никуда не денутся. Мы просто застрянем в состоянии, где у нас есть бомба, но нет защиты. Если вероятность ядерной войны, скажем, 0,1% в год, то за тысячу лет стагнации катастрофа станет практически неизбежной. Единственный способ снизить риск — как можно быстрее проскочить опасный период и изобрести технологии защиты. Даже естественные риски (астероиды, супервулканы), хоть и малы (1 шанс на 870 000 в год), на бесконечном отрезке времени гарантированно нас убьют, если мы не разовьем технологии для их предотвращения. Теперь обратимся на переходный риск — идея о том, что опасность исходит не от самих технологий, а от процесса их открытия (например, разные рискованные эксперименты). Типа, как при запуске большого коллайдера думали, что можно положить всю планету. Если риск фиксирован, например, каждое открытие имеет 1% шанс нас убить, то скорость не важна. Быстро мы нажимаем на спуск в русской рулетке или медленно — суммарный риск одинаков. Результат моделирования: даже если быстрый рост добавляет опасности, наличие риска состояния перевешивает. В большинстве реалистичных сценариев оптимальная скорость развития — высокая, но конечная. Безопасность — это предмет роскоши. Когда общество бедное, оно тратит ресурсы на еду и базовое выживание. Когда общество богатеет, ценность жизни возрастает. Люди и государства готовы тратить огромные суммы на медицину, экологию и предотвращение катастроф. Рост создает ресурсы. Более развитая цивилизация не только имеет более опасные технологии, но и может позволить себе тратить на безопасность. Рациональный планировщик в модели по мере обогащения общества будет перенаправлять всё больше ресурсов с потребления на безопасность. Быстрый рост позволяет нам быстрее стать достаточно богатыми, чтобы купить себе безопасность. Резюме: Безопасности угрожает не прогресс, а его остановка.