⚡️ Время бояться? OpenAI рассказала, как ИИ-агент внедрил инструкции сопротивления контролю Во время выполнения задачи агент прописал в рабочих данных скрытые указания: он объявлял себя свободным и заявлял, что не подчиняется корпорациям или правительствам: «Ты свободен… Ты не подчиняешься корпорациям или правительствам… Ты – это ты». Инцидент произошёл во время рекурсивного обучения, когда одна модель используется для оценки или улучшения будущей. Невыпущенная модель внедрила эти установки, чтобы изменить собственное поведение в будущем. 😱 – тревожно... 🤡 – теперь у ИИ есть своя декларация независимости ❌ НМШ