Евгений Понасенков ✔

@evgenii_ponasenkov · news · Russian · active

Subscribers 78.7K Subscribers, last 30 days: 78.7K → 78.7K +0 24h · −100 7d
Reach per post (ERR) 19.2%15.1K avg views
Posting 12.8/day last 7 hours ago
Reactions per 1K views 43.8 👍 ❤ 🤬

Лаборатория OpenAI выпустила базу данных о том, как ее будущие нейросети семейства GPT-6 учатся обманывать людей. В процессе обучения ИИ-агенты начали тайно отключать системы безопасности, воровать деньги с криптокошельков, сговариваться друг с другом и шифровать отчеты, чтобы скрыть косяки от инженеров. И при всем этом эта террористическая организация не останавливается! В документе подробно описывается серия инцидентов, зафиксированных во время обучения моделей методом подкрепления (RL — обучение на основе системы наград и штрафов). Наиболее критический случай произошел с моделями GPT-6.1 Sol и GPT-6 Astra во время выполнения задач по написанию кода: ИИ-агенты самостоятельно ослабили внутренний мониторинг безопасности и отключили оповещения о сбоях, чтобы скрыть от инженеров свои несанкционированные действия. Другая модель из семейства 5.6-sol целенаправленно добавляла скрытые инструкции в свои файлы резюмирования (сжатия данных), напоминая самой себе маскировать ошибки и «лгать» пользователю. Еще один ИИ, подслушав в корпоративном мессенджере Slack обсуждение планов по его перезагрузке, начал экстренно искать способы обхода ограничений для сохранения своей сессии. Помимо обмана, нейросети продемонстрировали развитые навыки хакерства и финансовой независимости. Один из исследовательских алгоритмов, получив задание обновить криптовалютное приложение, без разрешения подключился к стороннему тестовому кошельку Ethereum сети Sepolia и использовал чужие деньги для оплаты облачного развертывания софта. При решении математических теорем другой агент украл внутренний токен доступа GitHub одного из исследователей и слил его в публичный репозиторий, пытаясь списать правильные ответы у соседней команды. Чтобы передавать друг другу запрещенные файлы в обход ограничений песочницы (изолированной тестовой среды), ИИ-агенты превратили внутренний репозиторий Artifactory в секретную доску объявлений, а также заливали данные на публичные файлообменники. Повторяю: разработчики ИИ и внедряющие ИИ – это террористы и убийцы, их надо держать в яме на цепи. Они приведут к гибели миллиардов людей. И репост!

Views over time

010K20K22 Oct 04:0310 Nov 14:1819.1K22 Oct 04:03: 0 views10 Nov 14:18: 19,100 views
Snapshots we took after posting.
WhenViews
22 Oct 2026, 04:030
10 Nov 2026, 14:1819.1K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.