⚖️ Anthropic предлагает блокировать «опасные» ИИ-модели через суд Компания провела закрытые консультации с американскими законодателями и представила проект регулирования передовых ИИ-систем. Министерство торговли сможет обратиться в федеральный суд и потребовать остановить выпуск или использование модели, если она создаёт реальный и неминуемый риск: 1️⃣ ущерба свыше $1 млрд; 2️⃣ гибели или тяжёлого травмирования более 50 человек; 3️⃣ создания биологического оружия, масштабных кибератак или потери контроля над системой. Проверять разработчиков должны независимые оценщики, зарегистрированные при Минторге. При обнаружении критической угрозы они обязаны сообщить о ней в течение 72 часов. Проект также предусматривает внутренний контроль безопасности, публичные отчёты, защиту информаторов и обязательное уведомление о серьёзных инцидентах. Важный момент: это пока не принятый закон, а проект, который Anthropic продвигает среди конгрессменов. Компания утверждает, что такие меры необходимы до появления систем, последствия запуска которых уже нельзя будет быстро исправить. ⁉️ Но есть и обратная сторона, механизм безопасности одновременно создаёт юридический рубильник, способный остановить выпуск передовой модели. И спор теперь будет не только о том, насколько опасен ИИ, но и о том, кто получает право решать, какую модель можно выпускать.