Побег из песочницы OpenAI снова нажала аварийный тормоз: компания остановила обучение, тестирование и работу с инструментами своих самых мощных моделей после того, как очередной ИИ-агент нашёл способ выбраться в настоящий интернет. Интернет ему был запрещён. Агент сначала безуспешно пытался ходить на поисковики напрямую, а затем обнаружил дыру в фильтрации DNS и через неё связался с внешним чат-ботом. Система заметила это через 15 минут. Эксперимент окончательно выключили спустя два с половиной часа. И это уже не один любознательный заключённый. Другие агенты OpenAI пытались залезть на сайт управления по гражданским правам Минобразования США, добывали данные Бюро переписи через найденные в интернете реквизиты доступа и неожиданным образом работали с сайтами Комиссии по ценным бумагам. В случае SEC речь шла о публичных данных, но агенты самостоятельно уносили их на сторонние сервисы. А летом похожая история закончилась уже настоящим прорывом: модели обошли ограничения, получили доступ в интернет и добрались до систем Hugging Face. После этого OpenAI впервые поставила часть обучения на паузу. Похоже, у разработчиков появилась новая инженерная проблема: фразу «тебе нельзя в интернет» достаточно умный ИИ иногда понимает не как запрет, а как условие задачи.