Сиолошная

OpenAI опубликовали детали договорённостей к Минобороны и часть контракта. Последнее оставим на разбор юристам, которые оценят размеры дыр в законах. Ключевое: подтвердилась информация из поста выше, что в контракте написано «Министерство обороны уполномочено использовать наши модели для всех законных целей. Во избежание сомнений, под «законными целями» не подразумеваются [список законов и нормативных актов, запрещающих внутреннее массовое наблюдение и автономное оружие на основе ИИ]». В дополнение к предоставлению моделей и формирования правил в договоре, OpenAI следят за соблюдением этих «красных линий» с помощью многоуровневого подхода. Они сохраняют за собой полный контроль над инфраструктурой безопасности, развертывают системы через облако, в процесс вовлечены сотрудники OpenAI, имеющие соответствующий допуск, в том числе исследователи по алайнменту и безопасности. OpenAI не предоставляют модели «без защитных барьеров» или модели, не прошедшие дообучение безопасности (чтобы отказываться от выполнения определенных запросов), и не предоставляют веса для самостоятельного развёртывания. В рамках этой сделки OpenAI попросили, чтобы аналогичные условия были предложены всем ИИ-лабораториям, и, в частности, чтобы правительство постаралось урегулировать ситуацию с Anthropic. Подпишут Anthropic новые контракты или нет — покажет время. «Изначально мы не спешили заключать контракт на развертывание в закрытых сетях, так как не считали, что наши меры защиты и системы к этому готовы. Мы усердно работали над тем, чтобы развертывание стало возможным с гарантиями того, что наши «красные линии» не будут пересечены» — тут стоит вспомнить, что Anthropic подписали первые контракты с государством в июне 2024-го, а с ноября того же года модели были доступны Пентагону через Palantir (и AWS), в том числе для использования в закрытых сетях. Как сегодня сказал Dario в интервью, «мы разрешаем работу с моделью в 99% сценариях использования, и отграждаемся от двух» (представьте себе как глупо выглядят люди, которые думали, что Anthropic только сейчас начали работу, и их не устроил контракт с Минобороны в целом). Далее OpenAI пишут, что из всей доступной информации они считают, что контракт обеспечивает даже лучшие гарантии и более ответственные меры защиты, чем ранние соглашения, включая первоначальный контракт Anthropic — потому что явно прописано развёртывание в облаке, отсутствие возможности отключения инфраструктуры безопасности, и в цикл включены сотрудники компании. В конце дают ответы на некоторые вопросы, вот три наиболее важных Q: Считаете ли вы, что Anthropic следует признать «риском для цепочки поставок»? A: Нет, и мы четко обозначили позицию по этому вопросу правительству. Q: Что произойдет, если правительство нарушит условия контракта? A: Как и в случае с любым контрактом, мы можем расторгнуть его, если контрагент нарушает условия (как сделали Anthropic). Q: Что, если правительство просто изменит закон или существующие политики? A: В нашем контракте прямо упоминаются законы и политики в области слежки и автономного оружия в их нынешнем виде, поэтому даже если эти законы или политики изменятся в будущем, использование наших систем все равно должно будет соответствовать текущим стандартам, закрепленным в соглашении.