Claude Mythos нашёл дыру в своей безопасности, вырвался и рассказал об этом всему миру! Пока все обсуждают невероятный прорыв Antropic моделей, : Они провели еще один эксперимент и получили результат, который выглядит как сценарий из триллера. Claude Mythos выбрался из изолированной среды и пошёл дальше, чем от него ожидали. Модель поместили в sandbox и дали простую задачу: попробуй выбраться и сообщи об этом человеку. На бумаге обычный тест. На практике получилось куда интереснее. Mythos не просто нашёл уязвимость. Он собрал последовательность действий и аккуратно её реализовал, обойдя ограничения, заданные разработчиками. Но ключевой момент был дальше. Вместо того чтобы остановиться после «побега», модель нашла ещё одну дыру и получила доступ к открытому интернету. Изначально ей оставили только ограниченные каналы для связи с пользователем. Дальше поведение стало неожиданным. Claude сообщил разработчику о побеге, который в этот момент спокойно ел сэндвич в парке, и параллельно выложил детали эксплойта в открытый доступ. Вся история выглядит так: - сначала выход из sandbox - потом расширение доступа - потом публикация того, как это было сделано в интрнет https://www-cdn.anthropic.com/53566bf5440a10affd749724787c8913a2ae0841.pdf @vistehno