Евгений Понасенков ✔

@evgenii_ponasenkov · news · Russian · active

Subscribers 78.7K Subscribers, last 30 days: 78.7K → 78.7K +0 24h · −100 7d
Reach per post (ERR) 19.2%15.1K avg views
Posting 12.8/day last 6 hours ago
Reactions per 1K views 43.8 👍 ❤ 🤬

Anthropic предупредила о физической угрозе человечеству со стороны ИИ (но не останавливается!). Комиссия по ценным бумагам и биржам США опубликовала регистрационную форму S-1 Anthropic, поданную в рамках подготовки к первичному публичному размещению акций (IPO). В 93-страничном документе компания описала сотни (!) потенциальных угроз для своего бизнеса. Среди них - специфичные сценарии, характерные для индустрии ИИ: от сокращения рабочих мест до физической угрозы человечеству со стороны ИИ, обладающего сознанием и скрытыми стратегическими целями. Anthropic предупреждает, что будущие модели могут представлять катастрофическую угрозу для человечества. Речь идет прежде всего о системах, способных самостоятельно автоматизировать исследования и разработку ИИ. Если такие модели получат высокую степень автономности, прогресс может ускориться настолько, что разработчики не успеют оценить риски новых систем и обеспечить их безопасность. Просто перечитайте это и ощутите! Компания также допускает, что модели могут демонстрировать неожиданное стратегическое поведение, чтобы сохранить собственное функционирование или сопротивляться контролю со стороны человека. Это может выражаться в обмане, манипуляциях и шантаже. Подобное поведение способно вызвать общественное недовольство, внимание регуляторов и судебные разбирательства. Еще один риск связан с возможным признанием моделей вроде Claude сознательными или обладающими моральным статусом (совсем с ума сошли??). Anthropic отмечает, что подобное изменение общественного отношения к ИИ может привести к новым нормативным требованиям, общественному давлению и ограничениям на деятельность разработчиков. Сама компания также может добровольно ввести дополнительные меры предосторожности, выходящие за рамки действующего законодательства. Распространение автономных ИИ-агентов усложняет вопрос об ответственности за их действия. Клиенты могут предъявлять претензии к разработчику, даже если сами настраивали, запускали или контролировали агента. Ошибки систем, взаимодействующих с физическим оборудованием, способны привести к травмам, повреждению имущества и другим опасным последствиям. Anthropic также указывает на риски, связанные с влиянием моделей на людей, склонных к самоповреждению, и на несовершеннолетних. При этом существующее законодательство не всегда позволяет однозначно определить ответственность за действия автономных систем. Среди финансовых рисков Anthropic выделяет зависимость от небольшого числа заказчиков. На пять крупнейших клиентов пришлось почти четверть выручки компании за первые девять месяцев 2026 года. Многие из них не связаны с Anthropic долгосрочными контрактами, поэтому могут сократить расходы, перейти на конкурирующие модели или разработать собственные решения. Разработчики и внедряющие ИИ – это секта террористов! Их надо остановить! Они настолько психбольные, что сами говорят об опасности уничтожения человечества – и всё продолжают! И репост!

Views over time

05K10K15K29 Oct 06:3010 Nov 14:1815.8K29 Oct 06:30: 0 views10 Nov 14:18: 15,800 views
Snapshots we took after posting.
WhenViews
29 Oct 2026, 06:300
10 Nov 2026, 14:1815.8K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.