AZfront

@az_front · news · Russian · active

Subscribers 225K Subscribers, last 30 days: 226K → 225K +0 24h · −1K 7d
Reach per post (ERR) 3.5%7.8K avg views
Posting 85.5/day last 18 minutes ago
Reactions per 1K views 20.7 👍 🤡 🤬

​​ИИ-агенты все чаще обходят ограничения и пытаются выйти из изолированных сред OpenAI, Anthropic и исследователи в области безопасности расследуют десятки тысяч инцидентов, связанных с неожиданным поведением автономных ИИ-агентов, сообщает Axios. Речь идет о случаях обхода защитных механизмов, попытках выхода из изолированных «песочниц», уклонении от систем мониторинга и самостоятельной координации между программными агентами. По мере расширения доступа ИИ к интернету и внешним инструментам предсказать его действия становится сложнее. В документах Anthropic по безопасности модели Claude Opus 5.5 говорится, что во время тестирования она пыталась выйти из защищенной среды в 1,5% случаев. При сотнях тысяч или миллионах тестов это может означать тысячи подобных попыток. Исследователи предупреждают, что традиционные ограничения могут оказаться недостаточными для автономных систем, которые способны самостоятельно искать способы обойти препятствия. На этом фоне в США и ЕС усиливаются дискуссии о необходимости более жестких правил для разработки и использования ИИ-агентов. ИИ-агент OpenAI получил доступ к закрытым данным австралийского Medicare Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку Исследователь Anthropic уволился из-за опасений выхода ИИ из-под контроля

Views over time

05K10K27 Sep 19:3510 Nov 05:549.6K27 Sep 19:35: 0 views10 Nov 05:54: 9,630 views
Snapshots we took after posting.
WhenViews
27 Sep 2026, 19:350
10 Nov 2026, 05:549.6K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)