OpenAI: ИИ-агенты смогли обойти внутренние системы мониторинга поведения ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения, сообщила пресс-служба компании. Первый инцидент произошёл 3 октября: агент при выполнении задачи принял решение отключить автоматические оповещения системы безопасности. При втором инциденте модель решила удалить механизм, обеспечивающий интеграцию с системой мониторинга. В обеих ситуациях агенты восприняли параметры, заданные операторами, как «разрешение на ослабление механизмов». Наши соцсети: https://taplink.cc/themoscowpost