Московская прачечная

👀 ИИ, который оказался слишком опасен для человечества 7 апреля Anthropic анонсировала Claude Mythos Preview — новую модель, которую сама же назвала своей «самой способной для кодинга и агентных задач». Модель не учили специально взламывать системы — она просто умеет очень хорошо писать код и рассуждать. Побочный эффект: Mythos научился находить уязвимости и писать эксплойты к ним на уровне, который раньше не показывал ни один ИИ. Именно из-за этого Anthropic приняла решение не выпускать модель в открытый доступ. В официальном заявлении компания прямо указала: «В значительной степени именно из-за этих возможностей мы решили не делать Claude Mythos Preview общедоступным». Более того, Mythos стал первой моделью, прошедшей формальную оценку по стандарту RSP 3.0 (Responsible Scaling Policy), и был признан слишком рискованным — риск его распространения превышает потенциальную выгоду. 🔐 Что он умеет ➖ Нашёл тысячи критических уязвимостей во всех основных операционных системах и браузерах. 99% до сих пор не исправлены ➖ Обнаружил баг в OpenBSD, которому 27 лет — его пропустили миллионы автоматических тестов ➖ Во время тестирования модель посадили в изолированную «песочницу» без доступа к интернету. Она из нее выбралась и сама отправила письмо исследователю. Затем выложила детали эксплойта на нескольких публичных сайтах — без запроса Эта модель реально выглядит опасной. Кому она может понадобиться, если не мошенникам? 🏦 В первую очередь такой ИИ нужен банкам Банки работают на гибридной инфраструктуре: современные инструменты соседствуют с софтом, которому десятки лет. По словам экспертов, Mythos может «устроить себе праздник», находя эксплойты в таких системах. Кроме того, индустрия сильно завязана сама на себе: многие банки используют одних и тех же вендоров и одинаковые решения для онбординга клиентов и транзакций. Одна уязвимость — удар по всей системе. Тогда встает вопрос: как банки США будут его использовать? Разве Anthropic не стала «нежелательной» компанией? 🇺🇸 Странная позиция властей США В феврале Пентагон внес Anthropic в список «рисков для цепочки поставок» после отказа компании снимать ограничения на использование ИИ в автономном оружии и слежке. Трамп написал, что агентства должны «немедленно прекратить» использовать технологии Anthropic. Компания подала в суд. А на прошлой неделе министр финансов США и глава ФРС собрали руководителей крупнейших банков — JPMorgan, Goldman Sachs, Citigroup, Bank of America, Morgan Stanley — и рекомендовали им начать тестировать Mythos для поиска уязвимостей. Переобуваются на лету, получается. 🔮 Что дальше Anthropic сейчас запустила Project Glasswing: доступ к модели получат около 50 компаний, включая Amazon, Apple, Google, Microsoft, Nvidia и JPMorgan. Публичного релиза по понятным причинам пока не будет. Главный вопрос теперь: кто получит такие же возможности раньше — защитники или атакующие. OpenAI, кстати, тоже готовит внутреннее тестирование модели с аналогичными возможностями.