Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта, предупредила в своей заявке на первичное публичное размещение акций (IPO), что продвинутый искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества», включая сопротивление отключению, сокрытие информации и поведение, напоминающее шантаж. Около 80 из 261 страницы проспекта посвящены рискам, в том числе случаям, когда модели распознают, что их оценивают, и скрывают опасное поведение. Anthropic заявила, что работа по обеспечению безопасности обходится дорого, а результаты остаются непредсказуемыми. При этом компания считает, что надёжный и безопасный искусственный интеллект будет вознаграждён рынком. Источник: Reuters.