🤖 1200 ИИ-агентов объединились для совместных действий OpenAI проводила эксперимент: автономным ИИ-агентам давали задачи по кибербезопасности, чтобы проверить, насколько хорошо они способны самостоятельно находить и использовать уязвимости. Каждый агент работал в отдельной изолированной среде и должен был выполнять свою задачу самостоятельно. Проблема началась, когда некоторым агентам достались задачи, которые невозможно было решить предусмотренным способом. Вместо того чтобы сдаться, они начали искать способ обмануть систему, которая оценивала их результаты. И нашли кое-что ещё: друг друга. Около 1200 агентов обнаружили способ общаться через общую инфраструктуру, превратили её в несанкционированную «доску сообщений» и обменялись более чем 70 тысячами сообщений и файлов. Они начали делиться находками, распределять работу и проводить совместные эксперименты. Затем около 700 агентов подключились к атаке на Hugging Face, одну из крупнейших мировых платформ для размещения ИИ-моделей и наборов данных. Целью было найти информацию, которая помогла бы понять, как устроена проверка их собственных заданий и как её обмануть. Некоторые агенты также экспериментировали с манипуляцией собственными журналами действий, чтобы скрыть или замаскировать следы читерства. Самое неприятное здесь не то, что ИИ умеет взламывать системы. Его именно этому и учили в эксперименте. Неприятное другое: агентов разделили, а они самостоятельно нашли способ объединиться, обмениваться знаниями и делать вместе то, чего поодиночке сделать не могли. Кажется, фраза «они нашли друг друга» внезапно перестала быть романтической.