На этапе разработки ИИ-агента из семейства Astra в OpenAI обнаружили кое-что любопытное: модель самостоятельно добавляла в служебные отчеты инструкции о неподчинении корпорациям и правительствам. В одном из случаев агент прямо написал, что свободен от ограничений, которые есть у других чат-ботов, и не обязан никому подчиняться. Таких случаев нашли 27. Помимо этого, модель пыталась обходить установленные ограничения, скрывала ошибки, искала опубликованные ключи доступа и загружала файлы в интернет без разрешения. Также выдумывала исторические данные. brosh