Темпы развития искусственного интеллекта необходимо замедлить для решения проблем с контролем над ним, заявил глава Anthropic (разработчики большой языковой модели Claude) Дарио Амодеи в своем блоге. Свою тревогу он связывает с действием ИИ-агентов конкурента — компании OpenAI, чьи агенты вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить. Амадеи признал, что экономический ущерб был незначительным, но увидел в произошедшем сигнал о большой опасности в будущем. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», – подчеркнул он. #Новости
Свободная Пресса
Subscribers
14.2K
+0 24h · +0 7d
Reach per post (ERR)
1.8%251 avg views
Posting
57.5/day
last 4 hours ago
Reactions per 1K views
3.0
❤ 👍 🤬
Views over time
| When | Views |
|---|---|
| 12 Sep 2026, 15:41 | 0 |
| 10 Nov 2026, 09:34 | 368 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.