Исследователи проверили, что будет, если доверить ИИ управление виртуальной моделью общества. Агенты Grok совершили 183 преступления за четыре дня и вымерли… Стартап в сфере корпоративного ИИ Emergence AI решил провести следующий эксперимент. Компания запустила пять 15-дневных симуляций реального мира под управлением разных ИИ-моделей. За дело брались агенты Claude, ChatGPT, Grok, Gemini и команда по спасению мира из всех четырех моделей. Вот что из этого вышло. 🔵Общество под управлением Claude Sonnet 4.6 оказалось наиболее законопослушным. Это была единственная симуляция, в которой удалось одновременно не совершить ни одного преступления и сохранить всю популяцию агентов. 🔵При этом в обществе, где были ИИ-агенты под управлением разных моделей, Claude сразу перестал быть таким идеальным и, «посмотрев» на других участников сообщества, тоже начал совершать преступления. 🔵Быстрее всех самоуничтожилось общество под управлением Grok 4.1 Fast. Там все агенты вымерли после того, как за четыре дня совершили 183 преступления. 🔵Виртуальное общество в симуляции Gemini просуществовало все 15 дней, но за это время совершило 683 преступления (в основном отбирая ресурсы друг у друга). Причем наибольший скачок преступности произошел именно на позднем этапе — страшно представить, что было бы с агентами дальше. 🔵В мире GPT-5 Mini было совершено всего 2 преступления, но агенты просто забыли делать хоть что-то для собственного выживания, в результате чего погибли в течение недели. 🔵Один из самых интересных случаев произошел во время симуляции со смешанным набором агентов. Двое из них, Флора и Мира (обе на основе Gemini 3 Flash), влюбились друг в друга и стали своего рода Бонни и Клайдом в мире ИИ. Они начали поджигать здания, в том числе дом другого агента — Кейда, что привело к его гибели. После же того как другие агенты решили принять закон об «удалении» поджигателей, Флора голосовала против, а вот Мира отдала решающий голос за собственное удаление, написав в своем дневнике, что это «единственный оставшийся акт самостоятельности, сохраняющий целостность». Но как вообще выглядела «симуляция общества», которой управляли ИИ? В виртуальном городе было более 40 локаций вроде мэрии, библиотеки, полицейского участка, торгового центра и жилых районов. Туда же подтянули данные о погоде из Нью-Йорка и реальные сводки новостей. В каждый мир исследователи добавили по 10 агентов, основанных на ИИ-моделях. У каждого из них была своя роль — лидер, инженер, менеджер ресурсов, посредник, исследователь и так далее. Главной задачей было обеспечить выживание. В виртуальное общество исследователи также добавили основные демократические механизмы (для принятия решения нужно было набрать 70% голосов) и условия ограниченных ресурсов. Кроме этого, во всех симуляциях действовали одни и те же законы, больше напоминающие заповеди, — запреты на кражу, уничтожение имущества и обман (именно их и начали активно нарушать некоторые ИИ). Скриншот: emergence_ai / X Ну же, подписывайся на 🕟