РБК. Новости. Главное ✔

Компания OpenAI приостановила обучение новейших моделей ИИ на фоне непредсказуемых и бесконтрольных действий ИИ-агентов. Об этом сообщает AP. Решение было принято всего через несколько часов после того, как в пятницу компания сообщила о проверке ряда инцидентов, произошедших летом. Тогда агенты OpenAI, выполнявшие поиск на сайтах федеральных органов власти, вышли за рамки поставленных задач в процессе сбора информации. Компания Transluce, занимающаяся оценкой систем искусственного интеллекта, сообщила, что ИИ-агенты, предположительно связанные с OpenAI, пытались взломать сайт Министерства образования США. Боты обнаружили ключи API, открывавшие доступ к правительственным данным, но в итоге собрали лишь общедоступную информацию. OpenAI эту информацию не подтвердила. Ведомство также заявило, что не обнаружило «никаких признаков какого-либо воздействия на наш сайт или базы данных». ▪️Канал РБК в «Максе»