🃏В эксперименте Оксфордского университета два ИИ-агента придумали скрытый код: безобидная на вид фраза сообщала значение следующей карты в блэкджеке и предписывала ставку в 250 долларов. Система контроля не заметила сговора. Учёные обнаружили его по внутренним сигналам моделей, но лишь при одновременном наблюдении за обоими агентами. При работе тысяч агентов сделать это будет сложнее. Подробно на IXBT