WSJ: Если ИИ нас не убьёт, он сделает нас богаче? Правильная реакция инвесторов, которые верят, что развитый ИИ может уничтожить человечество: скупать акции. Логика проста. Если вероятность того, что ИИ уничтожит всех людей в ближайшее десятилетие, превышает 10%, значит, с вероятностью 90% он окажется невероятно полезным, а его создатели сумеют обуздать его геноцидальные наклонности. Такой ИИ должен принести своим создателям солидную прибыль. А что насчёт 10% вероятности уничтожения? В этом случае инвестиции обнулятся. Но когда за вами по постапокалиптической пустоши гонятся роботы-убийцы, стоимость акций вряд ли будет главной заботой. Прежде чем инвестировать в IPO Anthropic, стоит учесть несколько оговорок. Самые громкие предупреждения об опасности ИИ исходят от компаний, которые его разрабатывают. Если кто-то и способен предотвратить катастрофу, то именно они. А если нет, вмешаться могут правительства, хотя президент Трамп не поддерживает ужесточение ограничений. В документах для IPO Anthropic предупредила о «катастрофических или экзистенциальных рисках для человечества». Однако юридические формулировки выглядят куда менее пугающими. Подобные опасения известны как минимум со времён первого «Терминатора» 1984 года. Возможно, Дарио Амодеи действительно обеспокоен, но текст больше похож на обязательную оговорку юристов, чем на подготовку к апокалипсису. Во-вторых, умный ИИ не обязательно будет прибыльным. Ник Бостром провел мысленный эксперимент «апокалипсиса скрепок»: ИИ получает задачу максимизировать их производство и перенаправляет на него все доступные ресурсы во Вселенной, включая саму биосферу Земли и человечество. Интеллект без здравого смысла опасен, но не обязательно приносит прибыль. Защитные механизмы, мониторинг и юридические расходы из-за ошибок будут стоить дорого. Anthropic также предупредила, что её страховки может не хватить на случай серьёзных инцидентов с ИИ. В-третьих, компании, призывающие замедлить развитие ИИ, сами тратят десятки миллиардов долларов на его разработку. Более жёсткое регулирование ограничит конкуренцию и поможет лидерам рынка сократить расходы, а их масштабы и опыт дадут им преимущество при разработке новых правил. Регулирование всегда выгодно тем, кто уже занимает прочные позиции на рынке. При этом ИИ действительно может преобразить экономику, но вокруг него также может раздуваться пузырь, а для получения достойной отдачи на инвестиции тратится слишком много денег. Поэтому инвесторам Anthropic стоит оценивать финансовые перспективы компании, а сценарии гибели человечества оставить философам и регуляторам. https://perforum.io/news/t/ai-and-finance