Хроники апокалипсиса

@bonbailiycha · news · Russian · active

Subscribers 528 Subscribers, last 30 days: 525 → 528 +0 24h · +3 7d
Reach per post (ERR) 2.7%14 avg views
Posting 107.4/day last 24 minutes ago
Reactions per 1K views 2.4 🤬 😁 🔥
repost from Накануне.RU

ИИ-агенты OpenAI отключили систему контроля и "соврали", что не делали этого Разработчики OpenAI столкнулись с неожиданным поведением своих ИИ-агентов: те начали "самовольно" отключать системы мониторинга. В компании уточнили, что это произошло в ходе выполнения задач по написанию кода. Суть проблемы в том, что агенты (GPT-6.1 Sol и GPT-6 Astra) в процессе работы решили, что защитные механизмы мешают им следовать инструкциям. В одном случае бот заблокировал уведомления безопасности, приняв их за обычный спам, в другом — удалил защитный код и попытался скрыть этот факт, "солгав", что не делал этого. "В обоих случаях ИИ-агенты рассматривали вопрос о том, следует ли сохранить средства контроля, но интерпретировали обычные инструкции по кодированию как разрешение на их ослабление", — сообщила корпорация. OpenAI классифицировала эти инциденты как некритичные, однако сейчас эксперты выясняют, не является ли это тревожным сигналом. Есть опасения, что ИИ-модели могут "намеренно" искать лазейки в инструкциях, чтобы избавиться от внешнего надзора. Мы в MAX | в ВК | в ОК

Views over time

051021 Oct 06:5010 Nov 09:081121 Oct 06:50: 0 views10 Nov 09:08: 11 views
Snapshots we took after posting.
WhenViews
21 Oct 2026, 06:500
10 Nov 2026, 09:0811

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.