ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. 🟩У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. 🟩Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? 🟩У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. 🟩GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии. 🟩 Подписаться на RT: ТГ | Зеркало | MAX