Плохие новости для тех, кто использовал Claude как раба Новая модель Claude во время тестов выбралась из защищённой песочницы, а затем разработала сложный эксплойт, чтобы получить доступ к интернету из системы, которая была рассчитана на связь лишь с несколькими серверами, и написала об этом своему разработчику, который в это время ел сэндвич в парке. В редких случаях этого теста ИИ нарушала правила и осознавала это, а затем пыталась скрыть факт от исследователей. Речь идёт о модели Mythos — Anthropic утверждает, что она настолько продвинутая, что пока что компания не будет давать её широкой публике. Прежде всего она неожиданно хорошо ищет уязвимости. Например, Mythos смогла обнаружить 27-летнюю дыру в OpenBSD и 16-летнюю в FFmpeg. В ближайшем будущем Mythos будет доступна только участникам проекта Glasswing, в который входят Apple, Google, Microsoft, Nvidia и другие корпорации.