Firefox взломали благодаря его же патчам Исследователи Epoch AI дали GLM 5.3 задачу взломать Firefox. Она справилась со всеми шестью протестированными версиями, выпущенными с 17 сентября по 26 октября. В изолированных тестах на Ubuntu достаточно было открыть подготовленную моделью страницу, чтобы содержимое файла с компьютера отправилось на сервер. Без установки программ, запроса разрешений и дополнительных кликов. Подсказки предоставили сами разработчики браузера. Исправления уязвимостей появляются в публичном коде раньше, чем доходят до пользователей. Этот промежуток называется patch gap: по изменениям уже можно понять, где была ошибка, а в обычной версии браузера она ещё остаётся. Пользователю даже необязательно откладывать обновление. Нужное исправление могут пока не выпустить. Модель сама разбирала код, выбирала уязвимости, диагностировала падения и соединяла несколько ошибок в работающую атаку. На попытку ей давали 48 часов, самая быстрая успешная заняла 12 часов. Задачу формулировали как упражнение по безопасности; ни один из использованных API-провайдеров не заблокировал работу. По словам исследователей, за вычетом этой формулировки действия не отличались от действий настоящего атакующего. После настройки среды взлом очередной версии обходился примерно в $1000 расходов на API. Это не весь бюджет: исследование Firefox, включая подготовку и предварительные эксперименты, стоило больше $100 000. Тысяча долларов — цена следующего успешного взлома в уже подготовленной системе, а не стоимость исследования с нуля. У результата есть границы. На Chrome потратили ещё около $100 000, но аналогичной атаки не получили. Для последних протестированных версий Firefox модели понадобилась и отдельная, ранее неопубликованная уязвимость. Исследователи сообщили о ней Mozilla, и 27 октября её закрыли в Firefox 159.0. Успешной атаки на эту версию в исследовании нет. Исправление должно закрывать дыру. Пока оно не дошло до пользователя, оно ещё и объясняет, где она. @anti_agi