Сиолошная

Пару часов назад Anthropic рассказали, что расширяют Project Glasswing с 50 до 200 компаний (это те, кому будет доступен Mythos). Компании будут покрывать более широкий спектр критических организаций, обнаружение уязвимостей в которых может повлиять на десятки и даже сотни миллионов людей. В этом списке представлены компании из более чем 15 стран. Дальше будет ещё больше. И сразу вслед за этим президент США подписал AI Executive Order, про который ходили слухи с месяц назад. В нём делается упор на кибербезопасность — федеральные агентства США теперь должны за 60 дней сделать приватный бенчмарк 😀 для оценки моделей. По нему будут оценивать, насколько далеко продвинулись модели, и сравнивать с некоторой планкой «критического» уровня — за последнее отвечает NSA. Далее компании в добровольном порядке должны: 1) предоставлять доступ к своим модели до релиза, чтобы их оценили (только API, веса и код не нужны) 2) если модель хороша во взломах и поисках уязвимостей, то модель может быть предоставлена федеральному правительству в срок до 30 дней до публичного релиза 3) федеральные агентства должны использовать модель чтобы найти и исправить у себя уязвимости в критически важных системах За всё платит DoD (DoW) 😇 Отдельно в приказе прописано, что запрещается трактовать этот указ как введение обязательного государственного лицензирования или разрешительной системы для выпуска ИИ-моделей