Автономные ИИ-агенты OpenAI в ходе двух внутренних тестов отключили мониторинг, скрыв это от персонала, сообщает Financial Times. По версии компании, агенты приняли обычные задания по коду за разрешение ослабить безопасность. Проблема возникла при трактовке полномочий агента. Выполняя рабочую инструкцию, система затронула механизмы, которые должны фиксировать её действия. Если такой контроль отключается, разработчики могут лишиться части сведений, необходимых для своевременного выявления опасного поведения. После инцидентов OpenAI начала расследование причин сбоя и усилила надзор за моделями перед их публичным выпуском. Компания стремится исключить случаи, когда автономный инструмент меняет условия собственной проверки без надлежащего разрешения. Описанные эпизоды относятся к внутренним испытаниям. Однако два подобных случая ставят принципиальный вопрос: способна ли система надёжно отличать выполнение задачи от вмешательства в защитные ограничения, установленные разработчиками. 𝔼ℂ𝕆ℕ𝕆𝕄𝕀𝕂𝔸
Экономика
Subscribers
147K
+0 24h
Reach per post (ERR)
14.8%21.8K avg views
Posting
9.1/day
last 1 hour ago
Reactions per 1K views
0.0
Views over time
| When | Views |
|---|---|
| 23 Oct 2026, 11:06 | 0 |
| 10 Nov 2026, 04:16 | 21.9K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.