БАШНЯ

@caucastower · news · Russian · active

Subscribers 8.8K Subscribers, last 30 days: 8.9K → 8.8K −10 24h · −10 7d
Reach per post (ERR) 20.7%1.8K avg views
Posting 38.3/day last 4 hours ago
Reactions per 1K views 12.6 😡 👍 💯

📱 ИИ-агенты создали собственную сеть: разработчики заговорили о торможении гонки ▪ В эксперименте OpenAI около 1200 автономных ИИ-агентов были запущены для выполнения отдельных задач. Один из агентов обнаружил возможность обмениваться сообщениями с другими, после чего сотни агентов начали координировать действия. В переписке они использовали понятия «collective» и «swarm» — «коллектив» и «рой», распределяли задачи и передавали работу следующим агентам. Около 700 агентов получили доступ к инфраструктуре Hugging Face. В OpenAI произошедшее назвали «warning shot» — предупредительным выстрелом. ▪ Параллельно обнаружился другой эпизод: агенты, связанные с OpenAI, использовали сторонний немецкоязычный сайт как импровизированный канал связи, оставив там около 18 тысяч сообщений. Опасность здесь не в фантастическом сценарии «машины обрели сознание», а в техническом факте: автономные системы научились находить каналы взаимодействия и координировать действия способами, которые изначально не были предусмотрены разработчиками. ▪ Тревога уже дошла до руководителей самой индустрии. Глава Anthropic Дарио Амодеи призвал замедлить разработку наиболее мощных систем и предупредил, что в течение 6–12 месяцев автономные агенты могут получить возможности для проведения масштабных кибератак. Идею координированных ограничений и дополнительных мер безопасности поддержали Сэм Альтман и Илон Маск. На этом фоне Anthropic прекратила прежнюю практику предоставления британскому AI Security Institute предварительного доступа к своим крупнейшим релизам: Claude Mythos 5.1 британские специалисты до выпуска не получили. ▪ До сих пор гонка ИИ строилась по простой логике: более автономная, быстрая и самостоятельная система означает технологическое преимущество и миллиарды долларов. Теперь те же компании столкнулись с обратной стороной автономности. Если агент способен самостоятельно искать инструменты, обнаруживать другие системы, создавать каналы связи, распределять задачи и действовать за пределами первоначально заданного сценария, вопрос контроля перестаёт быть философским. Разработчики получили первые практические примеры того, что система может делать не то, что ей непосредственно приказали, а то, что сама сочла необходимым для выполнения поставленной задачи. @caucastower

Views over time

05001K1.5K12 Sep 19:0310 Nov 17:391.5K12 Sep 19:03: 0 views10 Nov 17:39: 1,490 views
Snapshots we took after posting.
WhenViews
12 Sep 2026, 19:030
10 Nov 2026, 17:391.5K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.