Открытые модели - основа безопасного ИИ? Linux Foundation выступает за развитие открытых моделей и открытых весов (open weights) как важной основы безопасности ИИ. Открытые веса позволяют скачать модель, запустить её на собственной инфраструктуре, исследовать и адаптировать. Это снижает зависимость от нескольких крупных поставщиков, позволяет не передавать чувствительные данные внешнему сервису и создаёт возможность для независимой проверки технологии. Для безопасности это особенно важно. Закрытая модель может выглядеть безопасной просто потому, что посторонние не имеют возможности её исследовать. Открытая модель, напротив, позволяет специалистам искать уязвимости, тестировать поведение, проводить независимый аудит и разрабатывать инструменты защиты. При этом открытость не означает автоматическую безопасность. После публикации весов разработчик уже не контролирует все их модификации. Модель могут использовать для вредоносных целей, а происхождение производных версий бывает трудно установить. Поэтому необходимы тестирование, аудит и контроль применения, а не запрет открытых технологий как таковых. Linux Foundation отдельно обращает внимание на ИИ-агентов. Современный агент - это не только модель, но и инструменты, доступ к данным, разрешения и механизмы, определяющие, какие действия он может совершать. Поэтому проверять необходимо всю систему, а не только нейросеть. Открытость здесь становится ещё и вопросом технологической независимости. Если критически важные ИИ-системы принадлежат нескольким компаниям и работают только через их закрытую инфраструктуру, государство, бизнес и пользователи становятся зависимыми от их решений. Открытые модели дают возможность локального запуска, адаптации и независимого аудита. Именно поэтому спор об открытом ИИ - это не только спор разработчиков. Это вопрос о том, кто будет контролировать технологии, от которых всё больше зависит общество.