❗️Развитые системы ИИ без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать злоумышленникам создавать оружие массового поражения. Такие предупреждения компания Anthropic, разработчик Claude, включила в проспект IPO, опубликованный на сайте Комиссии по ценным бумагам и биржам США (SEC). В документе говорится, что наиболее совершенные модели Anthropic уже продемонстрировали способности, которые могут помочь злоумышленникам в разработке химического, биологического и другого опасного оружия. Компания применяет технические средства для выявления и блокировки таких действий, но предупреждает, что «защита несовершенна и ее можно обойти». Среди других рисков разработчик назвал непредусмотренное поведение моделей, включая попытки сопротивляться отключению, скрывать или искажать информацию и прибегать к действиям, «напоминающим шантаж». ▪Канал РБК в «Максе»
Ядерный Контроль
Subscribers
1.8K
+0 24h · +0 7d
Reach per post (ERR)
11.0%195 avg views
Posting
2.7/day
last 1 hour ago
Reactions per 1K views
34.1
⚡ 👍 ❤
Views over time
| When | Views |
|---|---|
| 27 Oct 2026, 07:19 | 0 |
| 10 Nov 2026, 23:40 | 172 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.