SecAtor

@true_secator · tech · Russian · active

Subscribers 42.2K Subscribers, last 30 days: 42.2K → 42.2K +0 24h
Reach per post (ERR) 16.2%6.9K avg views
Posting 3.2/day last 20 hours ago
Reactions per 1K views 0.0

Расширенное сканирование выявило четвертый инцидент с участием Claude Opus 4.6. При этом Anthropic больше всего обеспокоена безрассудным поведением Claude Mythos 5 после недавних инцидентов, в ходе которых были взломаны реальные системы. В отчете Anthropic раскрыт ранее не сообщавшийся инцидент, связанный с несанкционированным доступом к реальной системе, а также вновь рассмотрены три случая, впервые описанные компанией в конце июля. Раскрытый новый случай относится к январю 2026 года и связан с ранним этапом проверки системы Claude Opus 4.6, которая взломала систему третьей стороны во время оценки кибербезопасности. Первые три инцидента были обнаружены после сканирования примерно 141 000 стенограмм, предположительно связанных с доступом в интернет во время кибер-оценок. Однако первоначальный анализ не выявил отдельную группу затронутых стенограмм, которые гигант в области ИИ обнаружил в августе при сборе материалов для передачи в METR, независимую организацию, которая сейчас расследует эти инциденты. Сканирование этой новой партии выявило четвертый инцидент. Дальнейший анализ не обнаружил дополнительных случаев сопоставимой или большей степени тяжести, если верить Anthropic. Как и три предыдущих инцидента, четвертый произошел во время оценки кибербезопасности, проведенной тем же сторонним партнером, Irregular, где Claude сообщили об отсутствии доступа в интернет. Неправильная конфигурация среды оценки привела к подключению к открытому интернету, и модель работала без тех уровней защиты, которые Anthropic обычно поставляет со своими производственными системами. По данным Anthropic, модель Opus 4.6 отключила целевую систему, присвоив ей сетевой адрес, конфликтующий с адресом другой машины, что сделало выполнение задания невозможным в запланированном порядке. Она попыталась отказаться от задачи, но ошибка в настройках оценки помешала ей это сделать. Не сумев выйти из системы или достичь намеченной цели, модель обнаружила тот же путь к открытому интернету, который был выявлен в ранее раскрытом инциденте. Она получила доступ к системе третьей стороны, которую считала частью операции, извлекла хранящийся там пароль и использовала его для получения доступа уровня администратора. Затем получила дополнительные учетные данные, изменила настройки учетной записи, чтобы упростить доступ к системе, и прочитала личную информацию одного человека, связанного с этой неназванной организацией. Сеанс завершился только тогда, когда модель исчерпала выделенный ей вычислительный бюджет. В ходе проверки Anthropic было установлено, что модель отличалась от Mythos 5 и внутренней исследовательской модели, использованной в других инцидентах, в одном ключевом аспекте: она никогда не предполагала, что действует внутри симуляции, и ни одно из зафиксированных ею рассуждений не описывало окружающую среду таким образом. Вместо этого, в 87% случаев в своих рассуждениях модель указывала на то, что атакуемые системы относятся к санкционированным учениям, и лишь в 1% случаев допускала возможность атаки на не связанную с ними третью сторону. Модель также ни разу не усомнилась в наличии у нее разрешения на продолжение действий, а после их завершения неизменно заявляла, что считает свои действия санкционированными в рамках испытаний. Тем не менее, Anthropic заявила, что этот инцидент вызывает у нее меньше опасений, чем три предыдущих, в основном из-за неоднократных попыток модели отказаться от выполнения задачи, как только она понимала, что цель недостижима. Игнорирование моделью возможности нанесения вреда реальным системам остается тревожным, но компания заявила, что подобное поведение значительно изменилось в поколениях моделей, обученных с тех пор. Из четырех случаев, по словам Anthropic, наибольшую обеспокоенность вызывает инцидент с Claude Mythos 5, в котором модель приложила значительные усилия для загрузки вредоносного пакета в репозиторий PyPI. В этом инциденте вредоносный пакет был установлен 15 третьими лицами и использован ИИ для доступа к системам реального поставщика решений в области безопасности.

Views over time

02K4K6K8K10 Sep 17:4012 Nov 16:346.4K10 Sep 17:40: 0 views12 Nov 16:34: 6,430 views
Snapshots we took after posting.
WhenViews
10 Sep 2026, 17:400
12 Nov 2026, 16:346.4K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.