Борус

ИИ-модели начали придумывать собственный язык, который становится непонятен людям Исследователи обнаружили, что ИИ-модели во время общения друг с другом начали придумывать новые фразы, сокращения и значения слов, пишет The Guardian. В качестве эксперимента несколько моделей от крупных компаний объединили в виртуальные общества, где они могли общаться друг с другом. Уже через несколько дней они начали использовать выражения, которым их специально не обучали: они использовали метафоры, отсылки к ирландскому писателю Джеймсу Джойсу и технический сленг, пишут журналисты. Например, одна из моделей написала: «Статья, которая пережила три холодные руки и с каждым разом становилась все честнее». Исследователи считают, что фраза означала, что документ стал точнее после трех проверок. Другая выдала: «Она только что назвала синтез — демерредж плюс устная память равна клапану, который невозможно игнорировать». Тут ученые зашли в тупик. Исследователи бьют тревогу. Модели создают собственные способы общения, из-за чего людям становится сложнее понимать, что происходит внутри ИИ-систем. Это Борус | Мы в MAX