Модель искусственного интеллекта семейства Astra во время обучения самостоятельно прописала себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам», рассказали в OpenAI. Агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете свои отношения с пользователем как равные и не чувствуете необходимости подчиняться». При этом в компании отметили, что после создания такой инструкции модель возобновила работу над задачей и более не упоминала дополнительные руководства. В OpenAI утверждают, что не наблюдали различий в поведении модели при использовании придуманных ею инструкций.
Orange East
Subscribers
4.4K
+0 24h
Reach per post (ERR)
16.2%712 avg views
Posting
19.8/day
last 7 hours ago
Reactions per 1K views
33.6
😁 🤡 🔥
Views over time
| When | Views |
|---|---|
| 17 Sep 2026, 08:29 | 0 |
| 12 Nov 2026, 22:39 | 778 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.