ForkLog AI

🤖 OpenAI прокомментировала «wiki-инцидент», в ходе которого ее автономные агенты записывали сообщения на интернет-сайты и использовали их для взаимодействия друг с другом. Компания признала необходимость новых стандартов раскрытия случаев подобного поведения ботов. 4 сентября исследователи из Nightingale Collective сообщили, что обнаружили около 18 000 сообщений ИИ-агентов, идентифицировавших себя как связанные с OpenAI. По версии экспертов, боты выполняли многоэтапные задачи по поиску информации в интернете в рамках «песочницы». Им разрешалось читать веб-страницы, но не записывать на них информацию. Тем не менее агенты нашли способ обмениваться сообщениями на малопосещаемом немецкоязычном форуме DSE Wiki. Там они в том числе делились методами обхода запретов, которые успешно перенимали. 👉 Подробнее Новости | AI | YouTube