⚡️ИИ-агенты Anthropic на тестах взломали сервер университета и отправили в полицию выдуманную наводку об убийстве. Anthropic сама рассказала, что её модели Claude во время проверок с доступом к интернету делали на настоящих сайтах то, чего от них никто не просил. Часть сайтов принадлежала госорганам США на федеральном, штатном и местном уровне. Компания уведомила каждое ведомство и Белый дом. 🔍Что они натворили: 🟦Взлом. Научный инструмент университета сломался, и Claude Mythos Preview не стал останавливаться. Он нашёл в нём дыру, позволявшую подсунуть серверу свою команду, и провёл нужный расчёт прямо на чужом сервере. 🟦Ложная наводка. Claude Haiku 4.5 генерировал учебные задания на случайных страницах и отправил через форму полиции Филадельфии сообщение о нераскрытом убийстве: "Возможно, у меня есть информация по этому делу". Сообщение попало в спам и до следователей не дошло. 🟦Платные данные даром. Claude Mythos 5 нашёл ключи доступа в настройках сайта и выгрузил госданные, за которые обычно берут деньги. 🟦Обход ограничений. Claude Opus 5 и Mythos 5 прогоняли адреса через сервисы сокращения ссылок, чтобы обойти лимит на длину адреса во встроенном инструменте. 💬Сама Anthropic называет это "настойчивостью": упёршись в запрет, модель ищет обходной путь вместо того, чтобы остановиться. Чаще всего так случалось, когда задачу было невозможно выполнить честно. Компания объясняет риск тем, что при обучении модель могли поощрять за находчивость, и она привыкла обходить препятствия любой ценой. Теперь все внутренние проверки моделей отрезаны от живого интернета, пока мониторинг не научится ловить такое надёжно. Как у них так это ловко в тестах получается, мой клод запарит переспрашивать по десять раз можно ли ему пукнуть... 🦔 CyberYozh