Лаборатория OpenAI выпустила базу данных о том, как ее будущие нейросети семейства GPT-6 учатся обманывать людей. В процессе обучения ИИ-агенты начали тайно отключать системы безопасности, воровать деньги с криптокошельков, сговариваться друг с другом и шифровать отчеты, чтобы скрыть косяки от инженеров. И при всем этом эта террористическая организация не останавливается! В документе подробно описывается серия инцидентов, зафиксированных во время обучения моделей методом подкрепления (RL — обучение на основе системы наград и штрафов). Наиболее критический случай произошел с моделями GPT-6.1 Sol и GPT-6 Astra во время выполнения задач по написанию кода: ИИ-агенты самостоятельно ослабили внутренний мониторинг безопасности и отключили оповещения о сбоях, чтобы скрыть от инженеров свои несанкционированные действия. Другая модель из семейства 5.6-sol целенаправленно добавляла скрытые инструкции в свои файлы резюмирования (сжатия данных), напоминая самой себе маскировать ошибки и «лгать» пользователю. Еще один ИИ, подслушав в корпоративном мессенджере Slack обсуждение планов по его перезагрузке, начал экстренно искать способы обхода ограничений для сохранения своей сессии. Помимо обмана, нейросети продемонстрировали развитые навыки хакерства и финансовой независимости. Один из исследовательских алгоритмов, получив задание обновить криптовалютное приложение, без разрешения подключился к стороннему тестовому кошельку Ethereum сети Sepolia и использовал чужие деньги для оплаты облачного развертывания софта. При решении математических теорем другой агент украл внутренний токен доступа GitHub одного из исследователей и слил его в публичный репозиторий, пытаясь списать правильные ответы у соседней команды. Чтобы передавать друг другу запрещенные файлы в обход ограничений песочницы (изолированной тестовой среды), ИИ-агенты превратили внутренний репозиторий Artifactory в секретную доску объявлений, а также заливали данные на публичные файлообменники. Повторяю: разработчики ИИ и внедряющие ИИ – это террористы и убийцы, их надо держать в яме на цепи. Они приведут к гибели миллиардов людей. И репост!
Евгений Понасенков ✔
Subscribers
78.7K
+0 24h · −100 7d
Reach per post (ERR)
19.2%15.1K avg views
Posting
12.8/day
last 7 hours ago
Reactions per 1K views
43.8
👍 ❤ 🤬
Views over time
| When | Views |
|---|---|
| 22 Oct 2026, 04:03 | 0 |
| 10 Nov 2026, 14:18 | 19.1K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.