Риск гибели человечества от ИИ оценили более чем в 10% Исследователь ИИ Джейкоб Коксон покинул Anthropic и сразу объяснил почему. По его словам, Anthropic и OpenAI мчатся к созданию самосовершенствующегося сверхразума быстрее, чем решают проблемы безопасности. «Обе компании действуют безответственно. Они мчатся к сверхразуму и играют с нашими жизнями», — написал он. По данным Axios, Коксон ушел за два месяца до получения очередной части акций компании. Его слова поддержал Эван Хьюбингер из Anthropic: «Я лично считаю, что вероятность гибели человечества в ближайшее десятилетие — более 10%». Еще один сотрудник компании, Сэмюэл Маркс, также допустил катастрофический сценарий уже в ближайшие годы. Речь не о современных чат-ботах, а о гипотетическом сверхразуме: системе, превосходящей человека почти во всех интеллектуальных задачах. Особое опасение вызывает сценарий, при котором такой ИИ начнет самостоятельно улучшать свои возможности. Тогда прогресс может резко ускориться, а людям станет труднее влиять на происходящее.