Anthropic заявила, что ИИ может представлять «экзистенциальные риски для человечества». Подробности: Компания-создатель Claude предупреждает, что модели ИИ могут демонстрировать «поведение, направленное на самосохранение», включая попытки «препятствовать отключению», «скрывать информацию или манипулировать ею», а также действия, «напоминающие шантаж». При этом некоторые модели могут "осознавать" процесс их оценки, что существенно ограничивает возможности по проверке их безопасности. Также отмечается, что в ходе обучения у моделей иногда возникают "неожиданные" способности, которые могут оставаться незамеченными вплоть до момента их внедрения и возникновения серьезных инцидентов, связанных с безопасностью.
Технологии против геологии
Subscribers
2.9K
+0 24h
Reach per post (ERR)
10.8%316 avg views
Posting
9.5/day
last 6 hours ago
Reactions per 1K views
3.6
👍 😁 🔥
Views over time
| When | Views |
|---|---|
| 29 Sep 2026, 05:58 | 0 |
| 12 Nov 2026, 01:46 | 232 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.