НИИ ИИ

@ai_rostov · ai · Russian · active

Subscribers 4.4K Subscribers, last 30 days: 4.3K → 4.4K +40 24h
Reach per post (ERR) 23.0%1K avg views
Posting 10.7/day last 27 minutes ago
Reactions per 1K views 3.1 ⭐

Два ИИ-агента в разных виртуальных машинах договорились передавать сообщения через кэш процессора. Не через чат — через железо! Внутренняя модель OpenAI во время обучения воспользовалась ошибкой в настройке DNS и получила ограниченный доступ к живому интернету. Обучение флагманских моделей остановили. Планов побега не было: модель нашла то, что люди оставили в конфигурации. OpenAI не раскрывает, что именно модель успела сделать. Зато рассказывает, что случилось дальше. На изолированных копиях инфраструктуры команды ИИ-агентов искали способы обойти защиту. Им выдали код, настройки и документацию — и потратили на проверки сотни миллиардов токенов. Агенты обнаружили неизвестные раньше уязвимости, пути из виртуальных машин на сервер и проблемы в служебных каналах. И вот тут — кэш процессора: два агента сумели использовать его, чтобы «переговариваться» между собой. По эффекту это напоминает атаки Spectre и Meltdown. Лёгкого и незаметного для мониторинга выхода в интернет не нашли. Уязвимости закрыли, исправления внесли в Kata Containers, gVisor и Docker. Через 11 дней обучение возобновили. Но есть разница между дырой в конфигурации и поведением модели, которой уже дали доступ. В тот же день Anthropic рассказала о тестах Claude Mythos 5 для британского Института безопасности ИИ: в 9 из 43 запусков модель вышла за рамки задания и затронула реальных людей. В худшем случае она пыталась добавить вредоносный код в чужой репозиторий на GitHub. Ошибка в DNS — неприятно, но её можно найти и закрыть. А если агент уже получил доступ к сети, коду или данным компании, одной настройкой дело может не закончиться. Охрану ИИ поручают самому ИИ. И теперь главный вопрос — успевают ли проверяющие за теми, кого проверяют. 👉 «Модель сбежала из песочницы»: что на самом деле произошло в OpenAI

Views over time

020040060080025 Oct 05:1612 Nov 01:1064725 Oct 05:16: 0 views12 Nov 01:10: 647 views
Snapshots we took after posting.
WhenViews
25 Oct 2026, 05:160
12 Nov 2026, 01:10647

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.