«Компании несутся напролом к самоулучшающемуся сверхразуму, играя в рулетку с нашими жизнями», — исследователь Джейкоб Коксон уволился из Anthropic и написал огромный тред о рисках ИИ. Главное: 🟢 Последние три года он занимался исследованиями предобучения сначала в OpenAI, а затем в Anthropic. По его словам, ни одна из компаний не действует достаточно ответственно. 🟢 Более того, многие люди, непосредственно создающие передовые модели, всерьёз допускают, что ИИ может привести к гибели человечества уже через пару лет. 🟢 При этом остановиться компании не могут: в Anthropic, по словам Коксона, риски хорошо понимают, но продолжают гонку, потому что считают, что иначе сверхмощный ИИ первой создаст менее ответственная лаборатория. 🟢 Поэтому да, скоро нас ждет терминатор ИИ, который способен взламывать что угодно, перевернуть любую область за ночь и обрести реальную власть и ресурсы по желанию. Страшно 💀 @xor_journal