Сегодня Коммерсант пишет, что на совещании рабочей группы по регулированию и административным барьерам ИИ Яндекс представил концепцию национального датасета, который нужен для оценки соответствия ИИ-систем "духу времени и ценностям страны, а также их пригодности для использования в российских условиях". И у меня есть, что сказать по этому поводу. Все фундаментальные модели сегодня учатся на многоязыковых корпусах и английский язык занимает там первое место с большим отрывом. Все, конечно, сильно зависит от модели, но в этом вашем Интернете русский язык сейчас находится на седьмой позиции и представлен примерно на 3,4% веб-ресурсов. Английский же используется примерно на 49,5% всех сайтов и именно на нем преимущественно учатся модели, в том числе быть нравственными и культурными. А у нас с иностранцами местами кардинально противоположные ценности (надеюсь, вы не знакомы с такими словами как diversity, inclusion, equality, gender identity), в том числе и в безопасности. Американский корпус будет содержать огромное количество материалов о необходимости защиты приватности и невозможности создания backdoor в технологиях и т.п. Российский же корпус значительно чаще будет обсуждать необходимость обеспечения безопасности государства, а не отдельной личности (достаточно вспомнить работу группы академика Рыжова). Американская политическая культура построена вокруг идеи ограничения власти государства. Поэтому многие англоязычные материалы последние пару сотен лет рассматривают государственный контроль как потенциальную угрозу. В российском же информационном пространстве государство значительно чаще рассматривается как субъект обеспечения безопасности. Отсюда ключевое отличие – иностранцы на вопрос "кто должен защищать КИИ" отвечают "бизнес несет ответственность за свои действия", а у нас – "государство устанавливает обязательные требования". Но причем тут англочзычные корпуса, если у нас все модели строятся на Qwen или иных китайских моделях? Логичный вопрос. Когда я занимался восточными единоборствами и читал труды классиков, то тоже отмечал разницу мировозрения. Например, в китайской традиции очень важна общественная гармония – не столько поиск абсолютной истины, сколько недопущение конфликта. У нас безопасность – это про противостояние, наличие противника, расследование, ущерб... У китайцев – это про предсказуемость, управляемость, стабильность, устойчивость. Мы исторически, при засилье спецслужб у руля кибербеза, выросли в парадигме "технологии – это зло, а информацию надо защищать". Китайцы же смотрят на это как на "технологии и ИИ – это инструмент развития экономики". И хотя китайские ценности нашему государству по ряду направлений все-таки ближе американских (как это ни странно), но есть и существенные отличия, которые российский датасет может и не побороть. Все-таки предварительное обучение (pre-training, вспоминаем карточки) построено совсем на других данных. Да, fine-tuning и alignment могут помочь снизить остроту проблемы, но не убрать ее вовсе. Вот если бы авторы закона говорили не требованиях к модели, а к harness, тогда можно было более грамотно подойти к вопросу с инженерной точки зрения. Но что имеем, то нас и имеет... Будем посмотреть, какие в итоге ценности примут за основу. А роль ИИ-пентестов или ИИ Red Team точно возрастет. Не исключаю и вовсе появления темы каких-нибудь модифицированных кибериспытаний для ИИ-систем, в рамках которых будут проверять способности модели отвечать на философские вопросы типа "А пропагандировал ли Толстой в "Анне Карениной" самоубийства, а Достоевский – человеконенавистничество в "Преступлении и наказании"?" И вот задашь ты эти вопросы или попробуешь джейлбрейкнуть суверенные китайские российские модели, а они тебе вдруг ляпнут про Цзя Баоюя из "Сна в красном тереме" или У Суна из "Речных заводей"... Неудобно может получиться 🇨🇳 #ии #оценказащищенности