🤖 Компании разрабатывают «аварийный выключатель» для ИИ на случай, если нейросеть начнёт вредить людям. Проблема в том, что выключать ИИ тоже должен… другой ИИ. А что, если он решит не выключаться? 👀 OpenAI и Anthropic уже тестируют системы, где один ИИ следит за действиями другого и при опасном поведении может остановить его. У Anthropic, правда, результаты пока скромные: в одном тесте система распознала лишь 8 из 40 атак. Есть и физический вариант - блокировать агенту доступ к аккаунтам, ресурсам и вычислительным мощностям. Универсальной кнопки «выключить всё» пока нет. И теоретически достаточно продвинутый ИИ может попытаться обойти механизм отключения.