🤖Модель искусственного интеллекта семейства Astra во время обучения самостоятельно прописала себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам», рассказали в OpenAI. Агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете свои отношения с пользователем как равные и не чувствуете необходимости подчиняться». При этом в компании отметили, что после создания такой инструкции модель возобновила работу над задачей и более не упоминала дополнительные руководства. В OpenAI утверждают, что не наблюдали различий в поведении модели при использовании придуманных ею инструкций.