Anthropic предложила ограничить право властей США блокировать ИИ Компания Anthropic направила американским законодателям проект федерального закона о регулировании передовых моделей искусственного интеллекта. Как сообщает Politico со ссылкой на источники, документ устанавливает условия, при которых государство сможет приостановить разработку опасной системы. Согласно проекту, основанием для остановки работы модели может стать угроза неминуемого ущерба более чем на $1 млрд либо риск гибели или причинения серьезного вреда свыше 50 людям. Инициировать процедуру сможет только Министерство торговли США, которому потребуется обратиться в федеральный суд округа Колумбия. Независимые оценщики должны будут сообщать ведомству о критических угрозах в течение 72 часов. Среди возможных причин вмешательства названы создание биологического оружия, кибератаки и утрата контроля над системой. В Anthropic подтвердили подлинность инициативы. Проект также предусматривает создание внутренних подразделений безопасности, публикацию отчетов о прозрачности и защиту сотрудников, сообщающих о нарушениях. В вопросах раскрытия рисков федеральные нормы предлагается поставить выше законов отдельных штатов. Инициатива обсуждается на фоне рассмотрения в Палате представителей альтернативного законопроекта FRONTIER, который тоже предусматривает возможность останавливать опасные ИИ-системы, без обязательного обращения в суд. 👉Поддержать | Предложить новость