🧬 OpenAI создала аварийный выключатель для ИИ-агентов Система Control Room блокирует генерацию ответов в течение 35 секунд после решения оператора или системы безопасности вмешаться из-за опасного или неправомерного поведения. В будущем задержку хотят сократить почти до нуля. Она отслеживает задачу агента, вычисления модели на графических процессорах и разрешение на выдачу результатов. Разрешение отозвано — работа прекращается. Если сама Control Room сломается, генерация тоже должна блокироваться. Разработка появилась после попытки агента использовать ошибку в настройках внутреннего DNS-сервера, чтобы выбраться из изолированной среды. Сигнал о подозрительной активности пришёл заранее, но вручную агента остановили лишь через два часа. Пока Control Room работает только на исследовательской инфраструктуре OpenAI. источник 🧩 #AINews