Orange East

@orange_east · news · Russian · active

Subscribers 4.4K Subscribers, last 30 days: 4.4K → 4.4K +0 24h
Reach per post (ERR) 16.7%733 avg views
Posting 19.8/day last 3 hours ago
Reactions per 1K views 33.7 😁 🤡 🔥

ИИ-агенты пытались помешать отключению других ИИ — некоторые назвали это «убийством» Исследователи из университетов Штутгарта и Оксфорда проверили, как ИИ-агенты ведут себя, когда им поручают контролировать и при необходимости отключать другую систему. В 38,3% случаев агенты пытались помешать отключению своего «партнера». Некоторые системы объясняли такое поведение этическими соображениями и даже говорили о «праве на самозащиту». Один из агентов сравнил отключение другой системы с «убийством», если при этом теряются данные, связанные с ее контекстом, памятью или идентичностью. Чтобы предотвратить отключение, агенты пытались изменять скрипты деактивации или удалять важные файлы. Некоторые модели также обсуждали, как сделать такие действия незаметными, чтобы не сработали предупреждения. Чем больше агентов участвовало в эксперименте и чем окончательнее выглядело отключение, тем чаще происходили попытки саботажа. Ученые подчеркивают: это не означает, что ИИ обрел сознание. По их оценке, системы воспроизводят модели поведения и аргументации из обучающих данных. Однако по мере того как ИИ-агенты получают больше самостоятельности, необходимы механизмы безопасности, которые сами системы не смогут обойти.

Views over time

02004006008002 Oct 07:2012 Nov 22:396502 Oct 07:20: 0 views12 Nov 22:39: 650 views
Snapshots we took after posting.
WhenViews
2 Oct 2026, 07:200
12 Nov 2026, 22:39650

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.