10% на апокалипсис Исследователь Джейкоб Коксон уволился после трех лет обучения моделей в OpenAI и Anthropic. Причина банальная — он уверен, что ИИ нас уничтожит. У себя в X он заявил, что обе компании на полном ходу несутся к самоулучшающемуся сверхинтеллекту, вообще не понимая, как будут его контролировать. По его словам, индустрия буквально ставит на кон наши жизни. На это отреагировал Эван Хубингер — руководитель направления безопасности в Anthropic. И согласился. Его личная оценка риска гибели человечества от ИИ в ближайшие 10 лет — выше 10%. Затем Хубингер спокойно добавил, что вообще-то рабочего плана по сдерживанию такой штуки у Anthropic пока нет. Ну просто картина маслом. Разработчики жмут на газ и обсуждают, как бы сделать тормоза. Мы с вами, если что, в салоне.