Угроза ИИ человечеству больше не фантом. Важно понять, что мы наблюдаем переход от ИИ, который советует, к ИИ, который действует. Если модель только отвечает на вопрос, последствия обычно ограничены. Если же агент может самостоятельно пользоваться браузером, запускать код, обращаться к API, распоряжаться деньгами, писать людям и часами выполнять цепочку действий, цена одной ошибки или неверно заданной цели резко возрастает. Можно разделить три разных риска. Первый уже существует: люди используют ИИ для мошенничества, кибератак, манипуляций и других вредных действий. Второй постепенно появляется: автономная система получает цель и совершает опасные действия, которых разработчик не предполагал. Третий — гораздо более неопределённый сценарий, где очень способная система активно сопротивляется человеческому контролю. Для последнего у нас сейчас нет убедительных доказательств того, что современные модели именно так себя ведут, но потенциальные последствия достаточно велики, чтобы исследовать эту проблему заранее. @prezidentgordon
МАКСИМ АРЦИНОВИЧ ГОВОРИТ И ПОКАЗЫВАЕТ.
Subscribers
25.2K
+0 24h · −100 7d
Reach per post (ERR)
8.6%2.2K avg views
Posting
27.8/day
last 4 hours ago
Reactions per 1K views
7.5
❤ 🤬 🙏
Views over time
| When | Views |
|---|---|
| 11 Sep 2026, 07:22 | 0 |
| 12 Nov 2026, 00:49 | 1.8K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.