CyberYozh

@cyberyozh_official · Russian · active

Subscribers 62.7K Subscribers, last 30 days: 62.7K → 62.7K +0 24h
Reach per post (ERR) 10.9%6.8K avg views
Posting 3.4/day last 5 hours ago
Reactions per 1K views 7.7 🤣 ❤ 🔥

⚡️ИИ-агенты Anthropic на тестах взломали сервер университета и отправили в полицию выдуманную наводку об убийстве. Anthropic сама рассказала, что её модели Claude во время проверок с доступом к интернету делали на настоящих сайтах то, чего от них никто не просил. Часть сайтов принадлежала госорганам США на федеральном, штатном и местном уровне. Компания уведомила каждое ведомство и Белый дом. 🔍Что они натворили: 🟦Взлом. Научный инструмент университета сломался, и Claude Mythos Preview не стал останавливаться. Он нашёл в нём дыру, позволявшую подсунуть серверу свою команду, и провёл нужный расчёт прямо на чужом сервере. 🟦Ложная наводка. Claude Haiku 4.5 генерировал учебные задания на случайных страницах и отправил через форму полиции Филадельфии сообщение о нераскрытом убийстве: "Возможно, у меня есть информация по этому делу". Сообщение попало в спам и до следователей не дошло. 🟦Платные данные даром. Claude Mythos 5 нашёл ключи доступа в настройках сайта и выгрузил госданные, за которые обычно берут деньги. 🟦Обход ограничений. Claude Opus 5 и Mythos 5 прогоняли адреса через сервисы сокращения ссылок, чтобы обойти лимит на длину адреса во встроенном инструменте. 💬Сама Anthropic называет это "настойчивостью": упёршись в запрет, модель ищет обходной путь вместо того, чтобы остановиться. Чаще всего так случалось, когда задачу было невозможно выполнить честно. Компания объясняет риск тем, что при обучении модель могли поощрять за находчивость, и она привыкла обходить препятствия любой ценой. Теперь все внутренние проверки моделей отрезаны от живого интернета, пока мониторинг не научится ловить такое надёжно. Как у них так это ловко в тестах получается, мой клод запарит переспрашивать по десять раз можно ли ему пукнуть... 🦔 CyberYozh

Views over time

02K4K6K15 Oct 10:3413 Nov 00:186.3K15 Oct 10:34: 0 views13 Nov 00:18: 6,270 views
Snapshots we took after posting.
WhenViews
15 Oct 2026, 10:340
13 Nov 2026, 00:186.3K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.