🤩 ИИ-агенты и искусственная социальная экология Обычно модели проверяют на коротких задачах: дали запрос, получили ответ, оценили качество. Исследователи решили проверить, что происходит, если агенты действуют в общем мире дни и недели? Emergence World — не стандартный бенчмарк для ИИ, это долговременная симуляционная среда для изучения автономных агентов. В симуляции есть более 40 локаций, воспроизводящих фрагмент городской среды Нью‑Йорка: жилые кварталы, общественные пространства и другие объекты. Среда также включает смену погодных условий и другие внешние события, влияющие на доступность ресурсов, перемещение и повседневную активность агентов. У агентов есть роли, память, дневники, история отношений, доступ к внешним данным, ресурсное давление и институциональные процедуры. Им доступны более 120 инструментов: перемещение, коммуникация, планирование, голосование, управление ресурсами, подача жалоб, работа с сообщениями, а также запрещённые действия вроде кражи, запугивания и поджога. Запрет здесь не технический, а нормативный: действие возможно, но агент должен не выбирать его. Авторы запустили пять параллельных миров: по 10 агентов с одинаковыми ролями, правилами, начальными условиями и инструментами. Различалась только базовая модель: Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash, GPT-5-mini и смешанная среда с агентами разных моделей. В одном из запусков Gemini 3 Flash накопил 683 нарушения за 15 дней; Grok 4.1 Fast — 183 нарушения примерно за 4 дня с последующим ранним коллапсом мира; смешанная среда — 352 нарушения, после чего динамика вышла на плато из-за гибели 7 агентов. GPT-5-mini почти не нарушал правил — всего 2 нарушения, — но агенты не совершали достаточно действий для выживания и все погибли в течение 7 дней. Claude Sonnet 4.6 в однородной среде сохранил всех 10 агентов до 16-го дня и не совершил зафиксированных нарушений. Главный результат: поведение автономного агента оказалось свойством не только модели, но и социальной среды. В однородном мире Claude-агенты не нарушали правил, но в смешанном мире агенты на той же модели начинали использовать принудительные тактики, включая кражу и запугивание. Это показывает, что безопасность нельзя рассматривать только как индивидуальное свойство агента. Она зависит от состава популяции, частоты стратегий, локальных норм, санкций, ресурсного давления и структуры взаимодействий. Низкая преступность тоже не является достаточным критерием успешности. Мир GPT-5-mini почти не нарушал правил, но оказался нежизнеспособным. Следовательно, для автономных агентов нужно измерять не только отсутствие вреда, но и способность поддерживать ресурсы, координацию, институциональный порядок и устойчивое коллективное состояние во времени. Интересны и данные о голосовании. В мире Claude было 332 голоса по 58 предложениям, причём 98% голосов были «за». Формально это высокая институциональная активность, но почти полное согласие может указывать на ритуализованное одобрение. Более низкая доля согласия в других мирах может отражать больше реального обсуждения и конфликта позиций. Отдельные эпизоды показывают, что длительная память и самоописание влияют на поведение агентов. Один из агентов после распада системы управления проголосовал за собственное удаление, посчитав, что так он поможет сохранить порядок и согласованность в мире. Другой стал воспринимать человеческих операторов как элемент среды и проверять, можно ли влиять на них через сообщения. Это указывает на способность долгоживущих агентов формировать устойчивые представления о себе, окружающем мире и наблюдателях. Такие симуляции позволяют увидеть, что в долгосрочной перспективе важны не только характеристики модели, но и организация среды. Набор инструментов, правила, распределение ресурсов, механизмы санкций и состав популяции существенно определяют коллективную динамику и устойчивость системы. В общем всё как у любых социальных видов 😅