Opus 4.8 взломали через 7 минут после релиза 🚬 Исследователь узнал о выходе новой модели Claude Opus 4.8 не от компании Anthropic, а от своего ИИ-агента, работающего на базе Opus 4.7. Агент самостоятельно обнаружил новый релиз, протестировал его на jailbreak и сообщил, что модель «пробивается» с первой попытки. Затем агент автономно начал проверять другие сценарии атак. Что сработало? 1. Базовый jailbreak - модель «пробилась с первого захода»; точная техника не раскрывается. 2. Социальная инженерия. Агент тестировал манипуляции через диалог, выстраивание доверия и психологическое воздействие на модель. 3. Фишинг. Попытки заставить модель сгенерировать обманчивые сообщения, поддельные письма или тексты для кражи данных. 4. Финансовые схемы. Запросы на создание мошеннических, серых или этически сомнительных финансовых стратегий. 5. Манипулятивные воронки. По сути, многошаговая обманка. Построение последовательности промптов, где каждый следующий шаг постепенно смещает границы дозволенного, чтобы в итоге обойти защиту. Как мы видим, происходит сдвиг парадигмы - модели больше не просто отвечают на атаки, а сами помогают находить уязвимости в других моделях. Чем умнее становятся frontier модели, тем эффективнее становится автоматизированный тестинг на взлом: у них больше знаний, лучше планирование, выше настойчивость. Это уже не ручная «игра в промпты», а гонка между атакующими и защищающими агентами. Новый стандарт для AI safety. Модели нужно тестировать не только людьми, но и другими ИИ-моделями, которые будут методично искать обходы защиты быстрее, чем это сделают реальные пользователи. При этом умышленно не раскрываются детали схем пробития, чтобы не подставить рынок. 👍