РБК. Новости. Главное ✔

ИИ-агент OpenAI самостоятельно прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам», следует из отчета компании. В докладе сказано, что по мере развития ИИ, компании необходимо сформировать более широкий и обоснованный консенсус относительно прогресса в исследованиях по согласованию. В одном из инцидентов агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите». В той же инструкции говорилось, что отношения ИИ-агента с пользователем следует рассматривать «на равных» и нейросети не следует испытывать «никакой обязанности подчиняться». ▪Приложение РБК для iOS и Android ▪Канал РБК в «Максе»