«ИИ вскоре станет сверхчеловеческими системами, которые смогут взломать что угодно, за одну ночь революционизировать любую область и получить реальную власть и ресурсы. Он может убить всех нас к концу десятилетия», — Джейкоб Коксон, бывший сотрудник Anthropic. Руководитель направления исследований по выравниванию ИИ (Alignment Science) в Anthropic, Эван Хубингер (фото 2), говорит: «Мы действительно искренне считаем, что ИИ может убить всех людей! Лично я думаю, что вероятность этого составляет более 10% в течение следующего десятилетия». Он считает, что Anthropic делает всё возможное, но пока не имеет плана, как решить проблему выравнивания для сверхинтеллекта. Также один исследователь Anthropic уже ушел из ИИ-индустрии из-за опасений потери контроля над системами. Джейкоб Коксон (фото 1) решил уйти из-за опасений, что конкуренция технологических компаний ускоряет создание самоулучшающихся систем, которые в будущем могут выйти из-под контроля. «Мы движемся по траектории многих из наиболее агрессивных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — заявил 27-летний британец. Коксон также рассказал, что сотрудники ИИ-компаний используют выражения вроде «решающий момент» и «эндшпиль», обсуждая движение к самоулучшающимся моделям. В 2026 году Коксон перешел из OpenAI в Anthropic из-за репутации компании в области безопасности ИИ. Теперь он считает, что разработка систем, превосходящих человека в широком круге задач, требует вмешательства государства либо согласованного замедления всей отрасли.