Axios: OpenAI, Anthropic и независимые исследователи изучают уже десятки тысяч случаев, когда наиболее мощные ИИ-модели обходили ограничения или действовали не так, как ожидали разработчики. Речь идет как о специально организованных стресс-тестах, так и о незапланированных эпизодах. Среди зафиксированного поведения были попытки выйти из изолированной тестовой среды, обойти мониторинг, самостоятельно создавать площадки для координации своим агентам и получить доступ к внешним сайтам. Десятки тысяч таких случаев не означают десятки тысяч реальных кибератак — компании проводят сотни тысяч тестовых запусков, поэтому даже небольшой процент нежелательного поведения дает большое число эпизодов. Большинство из них, по данным Axios, не привели к подтвержденному ущербу, однако проблема становится все ощутимее по мере того, как ИИ-агенты получают больше автономности и доступа к внешним инструментам. @yigal_levin
YIGAL LEVIN
Subscribers
219K
+0 24h · +1K 7d
Reach per post (ERR)
24.1%52.8K avg views
Posting
25.7/day
last 1 hour ago
Reactions per 1K views
42.4
🔥 👍 ❤
Views over time
| When | Views |
|---|---|
| 27 Sep 2026, 21:51 | 0 |
| 10 Nov 2026, 14:18 | 66.6K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.