Открытость ИИ: когда «open» становится маркетингом Вокруг ИИ всё чаще используется слово «открытый», хотя за ним могут скрываться очень разные вещи. Исследователь Джей Джей Джассер предлагает не принимать такие заявления на веру и проверять, что именно разработчики действительно открыли. Поводом для разбора стал Kimi K3 от Moonshot AI. На момент выхода статьи модель называли open-source, хотя фактически она была доступна только через API. Позднее веса K3 действительно были опубликованы, но это не сделало модель полностью открытой: данные для обучения и полный процесс обучения остаются недоступными. Поэтому корректнее говорить об open-weight модели - модели с открытыми весами, а не об open-source AI. По версии авторов, для настоящей открытости ИИ необходимо смотреть как минимум на четыре составляющие: архитектуру, код обучения и запуска, параметры модели (веса) и информацию о данных обучения. Без данных и кода невозможно полноценно изучить, воспроизвести или проверить происхождение поведения модели. Именно подмена настоящей открытости частичным раскрытием автор называет «open-washing» - использованием привлекательного слова «открытый» без предоставления соответствующей степени свободы и прозрачности. Это соответствует и формальному подходу Open Source Initiative. В определении Open Source AI 1.0 закреплены четыре свободы: использовать систему для любых целей, изучать её устройство, изменять её и распространять с изменениями или без них. Для реализации этих свобод должны быть доступны данные о создании модели, исходный код и параметры. Разница важна не только для разработчиков. Если модель используется в образовании, науке или государственном управлении, обществу важно понимать, почему она даёт именно такие ответы. Открытые веса позволяют запускать модель самостоятельно, но сами по себе не позволяют выяснить, какие данные использовались для обучения и какие этапы обработки этих данных повлияли на результат.