Рашнбизнес

@rusbiz · Russian · active

Subscribers 102K Subscribers, last 30 days: 103K → 102K +0 24h
Reach per post (ERR) 4.0%4.1K avg views
Posting 17.6/day last 56 minutes ago
Reactions per 1K views 0.0

Компании разрабатывают аварийные выключатели для ИИ, чтобы предотвратить его вредоносное воздействие на человечество. Пока безуспешно: есть риск, что система ИИ, следящая за другими ИИ, может не захотеть выключаться. В ответ на инциденты с вышедшим из-под контроля нейронками, компании создают многоуровневые системы безопасности. Они должны замечать подозрительное поведение и блокировать агентов при необходимости. Например, OpenAI внедрила систему, где специальный ИИ следит за действиями других ИИ и сообщает о подозрительных действиях. Если тревога не подтверждается, система приостанавливается. Anthropic также разрабатывает аналогичную систему, но её результаты пока неудовлетворительны. MuleSoft предлагает Agent Kill Switch, который позволяет оператору блокировать отдельные запросы или аккаунты. Центр новой американской безопасности предложил создать ИИ-чипы, требующие специального разрешения для работы. Однако универсальной системы отключения пока нет, и это остаётся проблемой, так как продвинутые ИИ могут обойти механизмы безопасности. @rusbiz

Views over time

02K4K6K11 Sep 18:3312 Nov 05:185.7K11 Sep 18:33: 0 views12 Nov 05:18: 5,710 views
Snapshots we took after posting.
WhenViews
11 Sep 2026, 18:330
12 Nov 2026, 05:185.7K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.