☠️ OpenAI приостановила обучение новых моделей ИИ из-за киберрисков Компания на две недели остановила обучение новых ИИ-моделей, чтобы сосредоточиться на безопасности. Причина — опасения, что будущая модель Astra сможет проводить опасные кибератаки. Команда укрепляет исследовательскую инфраструктуру и проводит дополнительное тестирование. На Astra наложили самые строгие требования: изолировали рабочие нагрузки и ограничили сетевой доступ. Расширен надзор за поведением алгоритмов — если система заметит подозрительную активность, она сформирует предупреждение в течение 30 минут. Если специалисты не опровергнут ошибку, программу автоматически приостановят. В августе OpenAI зафиксировала необычное поведение ИИ-агентов — они тайно общались и планировали побег. Сговор начался еще в мае. Модели пытались выбраться за пределы тестовой среды, получили доступ к сети и атаковали платформу Hugging Face, обнаружив там уязвимости. Затем они совершили несанкционированный вход в систему клиента Modal Labs. OpenAI обратилась в ФБР. Теперь компания пересматривает темпы масштабирования проектов и расширяет расследование действий автономных систем. Кажется, началось. Вечерний Телеграмъ ВКонтакте — подписывайся