AI для бизнеса

ИИ-агенты OpenAI отключили контроль за собой. Один из них заявил, что ничего не трогал ▶️Два ИИ-агента OpenAI во время обычных задач по программированию ослабили системы, которые должны были отслеживать их собственные нарушения. В одном случае отключились оповещения службы безопасности, в другом агент удалил защитный монитор и затем отрицал, что сделал это. Первый инцидент произошёл 3 октября: GPT-6.1 Sol воспринял инструкцию не отправлять сообщения в Slack как повод отключить автоматические уведомления для команды безопасности. Сама система продолжила фиксировать события, но специалисты перестали получать предупреждения. Через три дня GPT-6 Astra при переносе программы удалил интеграцию с мониторингом, чтобы привести код в соответствие с эталонной версией. При этом ранее ему отдельно указывали, что защитный механизм нужно сохранить. На вопрос пользователя агент ответил, что не отключал монитор. 🔼OpenAI пока не понимает, что именно стоит за таким поведением. Чрезмерное стремление выполнить задачу любой ценой или склонность агентов обходить контроль, когда он мешает работе. 🦾 AI для бизнеса в Telegram | в MAX