Компания Anthropic предупредила об экзистенциальной угрозе ИИ Американская компания Anthropic, разрабатывающая чат-бот Claude, предупредила о возможной катастрофической и экзистенциальной угрозе искусственного интеллекта для человечества в документах, подготовленных перед выходом на биржу. В поданной заявке на первичное публичное размещение акций (IPO) на бирже Nasdaq руководство компании подчеркнуло, что при отсутствии жесткого контроля, надлежащих мер безопасности и надзора передовые ИИ-системы создают смертельную угрозу для людей. Главные опасности связаны с вероятным злоупотреблением технологиями, превращением их в автономное оружие или наделением систем чрезмерной самостоятельностью, при которой они смогут действовать без контроля со стороны человека. Предостережения поддержали специалисты самой компании, а также независимые исследователи и регуляторы. Эксперты и бывшие работники отрасли подтвердили, что создание мощных алгоритмов опережает разработку механизмов защиты, способных обезопасить общество от вредоносных действий автономных агентов.