Купите наши акции. Наш ИИ может уничтожить человечество Разработчик Claude, компания Anthropic, выходит на биржу и в проспекте для инвесторов предупреждает о несколько необычном предпринимательском риске: передовой искусственный интеллект может представлять «катастрофическую или экзистенциальную угрозу человечеству». Среди возможных проблем компания перечисляет способность будущих моделей скрывать информацию, манипулировать людьми, сопротивляться отключению и прибегать к шантажу. Последнее не совсем фантастика. В стресс-тестах Anthropic модели разных разработчиков уже шантажировали вымышленных сотрудников, когда это помогало избежать отключения или добиться поставленной цели. Правда, речь именно о специально созданных экспериментальных сценариях, а не о том, что Claude по вечерам сам рассылает компромат начальству. В общем, прекрасный новый жанр биржевого проспекта. Вкладывайтесь сейчас. Если всё пойдёт хорошо, заработаете. Если очень плохо, деньги вам уже не понадобятся.