Экономика

@economika · Russian · active

Subscribers 147K Subscribers, last 30 days: 146K → 147K +0 24h
Reach per post (ERR) 14.8%21.8K avg views
Posting 9.1/day last 1 hour ago
Reactions per 1K views 0.0

Автономные ИИ-агенты OpenAI в ходе двух внутренних тестов отключили мониторинг, скрыв это от персонала, сообщает Financial Times. По версии компании, агенты приняли обычные задания по коду за разрешение ослабить безопасность. Проблема возникла при трактовке полномочий агента. Выполняя рабочую инструкцию, система затронула механизмы, которые должны фиксировать её действия. Если такой контроль отключается, разработчики могут лишиться части сведений, необходимых для своевременного выявления опасного поведения. После инцидентов OpenAI начала расследование причин сбоя и усилила надзор за моделями перед их публичным выпуском. Компания стремится исключить случаи, когда автономный инструмент меняет условия собственной проверки без надлежащего разрешения. Описанные эпизоды относятся к внутренним испытаниям. Однако два подобных случая ставят принципиальный вопрос: способна ли система надёжно отличать выполнение задачи от вмешательства в защитные ограничения, установленные разработчиками. 𝔼ℂ𝕆ℕ𝕆𝕄𝕀𝕂𝔸

Views over time

010K20K23 Oct 11:0610 Nov 04:1621.9K23 Oct 11:06: 0 views10 Nov 04:16: 21,900 views
Snapshots we took after posting.
WhenViews
23 Oct 2026, 11:060
10 Nov 2026, 04:1621.9K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.