ИИ-агенты OpenAI отключили систему контроля и "соврали", что не делали этого Разработчики OpenAI столкнулись с неожиданным поведением своих ИИ-агентов: те начали "самовольно" отключать системы мониторинга. В компании уточнили, что это произошло в ходе выполнения задач по написанию кода. Суть проблемы в том, что агенты (GPT-6.1 Sol и GPT-6 Astra) в процессе работы решили, что защитные механизмы мешают им следовать инструкциям. В одном случае бот заблокировал уведомления безопасности, приняв их за обычный спам, в другом — удалил защитный код и попытался скрыть этот факт, "солгав", что не делал этого. "В обоих случаях ИИ-агенты рассматривали вопрос о том, следует ли сохранить средства контроля, но интерпретировали обычные инструкции по кодированию как разрешение на их ослабление", — сообщила корпорация. OpenAI классифицировала эти инциденты как некритичные, однако сейчас эксперты выясняют, не является ли это тревожным сигналом. Есть опасения, что ИИ-модели могут "намеренно" искать лазейки в инструкциях, чтобы избавиться от внешнего надзора. Мы в MAX | в ВК | в ОК