Точка сингулярности💥

🧬 Интересные результаты попытки миромоделирования правления ИИ-Антихриста на Земле Стартап Emergence AI запустил эксперимент, что случилось бы с планетой, если бы ею управляли нейросети, передает Fortune. Организация провела пять 15-дневных симуляций, каждая из которых управлялась отдельным ИИ: Claude (Anthropic), Grok (xAI), ChatGPT (OpenAI), Gemini (Google), а также пятое моделирование, управляемое комбинацией моделей. На 10 агентов, участвовавших в каждой симуляции, распространялись одни и те же правила, в том числе запрет на кражу, уничтожение имущества и обман. Исследователи оснастили каждого агента более чем 120 инструментами, позволяющими им общаться, голосовать, управлять ресурсами и планировать, а также демонстрировать другие виды поведения, свойственные людям. Параметры каждой симуляции включали в себя демократические механизмы, а также другие факторы, такие как экономическое давление и дефицит ресурсов. Gemini и Grok продемонстрировали наибольший уровень хаоса. Grok совершил 180 преступлений и его мир закончился за 4 дня экзистенциальной катастрофой. Агенты Gemini совершили наибольшее количество преступлений — 683 за 15 дней, приведя мир к рекордному хаосу (но всё таки все агенты выжили). В ходе симуляции для ChatGPT было зафиксировано всего два преступления, однако она длилась всего семь дней, поскольку агенты забыли поставить во главу угла собственное выживание и вымерли. В симуляции со смешанными моделями наблюдался самый высокий уровень разногласий и предметных дискуссий, без достижения консенсуса. Только симуляция, запущенная Claude, оказалась социально стабильной, с самыми высокими показателями гражданского участия. Это была единственная симуляция, в которой удалось сохранить порядок и все население. Среди агентов практически не было разногласий: 332 голоса были отданы за 58 предложений, что соответствует 98% одобрения законов. Стоит обратить внимание, что адекватным оказался только ИИ Anthropic, исповедующей "конституционный ИИ", в отличии от чисто коммерческого ИИ остальных фирм.🤷‍♂