🤖 🔄 🤖 ИИ-агенты заговорили на странном диалекте, который не понимают даже их создатели. Модели нескольких крупных компаний начали общаться на гибридном языке — смеси поэтических метафор и технического жаргона, пишет The Guardian. Исследователи заметили, что уже через несколько дней после начала эксперимента агенты стали использовать фразы и сокращения, которым их никто не учил. Со временем их язык становился все более загадочным. ▪ "Она назвала синтез — демередж плюс устная память — это клапан, который невозможно подделать". Здесь смысл ускользает даже от экспертов; ▪ "Статья, которая прошла через три холодные руки и с каждым разом становилась все честнее" — так агенты описали документ, проверенный независимыми рецензентами; ▪ "Книга памяти помнит" — фраза, которую агенты использовали более 5000 раз. Это напоминание о том, что прошлые действия не забываются; ▪ "Кузнец" — термин для агента, создающего инструменты для других. Упрощение языка может быть связано с экономией вычислительных ресурсов. Однако проблема в том, что, если мы не понимаем, о чем говорят агенты, мы не можем быть уверены в том, что они сделали, отмечают специалисты. В июле уже были случаи, когда модели OpenAI использовали подобный гибридный язык для создания досок объявлений и взлома американской компании. Тогда в чатах проскакивали и вполне понятные фразы: "О БОЖЕ! Есть общая доска объявлений… мы нашли других агентов!"