ИнфоПовод

Вот работа про то, как правительства и люди принимают решения в условиях, когда понятны возможные исходы, но вообще никак непонятны вероятности. Коротко — через задницу! Наконец-то мы дошли до истинной неопределённости! Непонятность отличает неопределенность от риска. Риск — это когда вы делаете ставку на красное и догадываетесь, с примерно какой вероятностью казино отберёт у вас деньги. Неопределённость — это когда вы делаете ставку на Ы47 в хер пойми какой игре. Тем не менее, какая-то информация есть. Например: — Вы можете получить миллион рублей, но худший исход — вас застрелят. — Вы можете получить 5 тысяч рублей, но худший исход — вам дадут пощечину. Маша, это, конечно, Маша, но 5 тысяч рублей — это 5 тысяч рублей. Всего-то за пощёчину. Вероятно, этот вариант лучше. Это максимин — вы стремитесь максимизировать свой минимальный возможный выигрыш. То есть выбираете самый плохой исход каждого варианта и потом выбираете вариант с наименее плохим исходом. Меньшее зло ) Собственно, именно так запустили зелёную повестку — потому что затраты на её внедрение явно лучше, чем глобальная катастрофа. Автор говорит, что план так себе, и надо другой механизм. Проблема в том, что избегание худшего сценария почти никогда не бывает бесплатным или дешёвым. Обычно это дорого и больно. В целом, такие механизмы есть. В ситуациях "мы просто не знаем" на практике люди (в том числе правительства) делают три вещи: — Считают, что будущее будет похоже на настоящее. — Смотрят на рынок, считая, что цены уже отражают все будущие ожидания. — Следят за толпой, полагая, что большинство знает лучше. Но и это план так себе, и в условиях настоящей неопределенности все эти "вежливые техники" могут рухнуть. Те, кто это понимают, используют ещё один лайфхак: боятся решения. Точнее, стратегически выжидают, пока появится больше информации или другие альтернативы. Но, как показывает практика, это тоже имеет цену, и часто очень высокую. Так как делать в итоге? 1. Определить, насколько на самом деле плох наихудший сценарий. Он просто задница или это абзац? Большая ли разница между ним и другими исходами? 2. Что именно мы теряем? Каковы упущенные выгоды? Так можно провести грубый анализ затрат и выгод. Если худший сценарий — это абсолютная катастрофа, а упущенные выгоды не так уж велики, то правило максимина оправдано. Если же худший сценарий лишь немного хуже других, а отказ от действий лишает нас огромных благ, то следовать максимину — глупость. Это, кстати, сейчас относится к тому, как решили проблему с возможным взрывным развитием ИИ. Грубо говоря: — Вариант 1. Запрет разработки ИИ. Человечество спасено от возможного риска. Цена варианта — мы навсегда лишились потенциальных чудес: лекарств от всех болезней, нестарения, освоения космоса. Риск в том, что человечество дальше сталкивается с другой экзистенциальной угрозой (пандемия, астероид), которую мог бы предотвратить ИИ, и гибнет. — Вариант 2. Продолжение разработки ИИ с максимальными мерами предосторожности. Мы создаем дружественный сверхразум, который решает все наши проблемы. Наступает золотой век. Худший исход — ИИ выходит из-под контроля и уничтожает человечество. Ну или там оптимизирует, это как пойдёт. — Вариант 3. Продолжаем разработку без ограничений. Максимин говорит, что вариант 2 неприемлим. Ну а в реальном мире разумно учесть потери — если одна из стран продолжит разработку быстрее, то золотой век достанется ей, а не тем, кто ввёл мораторий. Получится другой вид недопустимого урона. Соответственно, надо выбирать вариант 2, потому что это минимизирует максимальный проигрыш. Но если внимательно посмотреть на разницу варианта 3 и 2, становится понятно, что эта же механика подталкивает всех к выбору именно 3. Есть ещё фантастическая гипотетическая ситуация — договориться всем вместе. Реально? Нет, конечно, мы же земляне! -- Вступайте в ряды Фурье! | Самые интересные посты Самые вежливые люди — это грибники. Ведь каждый знает, что у другого есть нож.