Day.Az

@dayaz · news · Russian · active

Subscribers 25.9K Subscribers, last 30 days: 18.2K → 17.2K −500 24h
Reach per post (ERR) 1.2%312 avg views
Posting 24.1/day last 3 hours ago
Reactions per 1K views 4.4 ❤ 👍 🔥
edited

🤖 Компании разрабатывают «аварийный выключатель» для ИИ на случай, если нейросеть начнёт вредить людям. Проблема в том, что выключать ИИ тоже должен… другой ИИ. А что, если он решит не выключаться? 👀 OpenAI и Anthropic уже тестируют системы, где один ИИ следит за действиями другого и при опасном поведении может остановить его. У Anthropic, правда, результаты пока скромные: в одном тесте система распознала лишь 8 из 40 атак. Есть и физический вариант - блокировать агенту доступ к аккаунтам, ресурсам и вычислительным мощностям. Универсальной кнопки «выключить всё» пока нет. И теоретически достаточно продвинутый ИИ может попытаться обойти механизм отключения.

Views over time

010020030011 Sep 18:0212 Nov 18:5228411 Sep 18:02: 0 views12 Nov 18:52: 284 views
Snapshots we took after posting.
WhenViews
11 Sep 2026, 18:020
12 Nov 2026, 18:52284

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.