Открытая модель без открытого обучения Гэри Маркус обращает внимание на важное различие, которое всё чаще теряется в разговорах об ИИ: модель с открытыми весами (open-weight) и модель с открытым исходным кодом (open source) - не одно и то же. Открытые веса позволяют скачать параметры обученной модели, запустить её и дообучить. Но это ещё не даёт возможности узнать, на каких данных и каким образом модель обучалась, изменить процесс обучения или воспроизвести результат с нуля. Условно говоря, вам дают готовый пирог, но не рецепт. Это важно не только разработчикам. Без информации о данных, их очистке и фильтрации исследователи не могут полноценно изучать происхождение поведения модели, регуляторы - оценивать возможные источники предвзятости и нарушения прав, а разработчики - проводить некоторые эксперименты с повторным обучением. При этом терминологию стоит уточнять: Open Source Initiative (OSI) уже разработала отдельное определение Open Source AI. Согласно ему, для полноценной открытости должны быть доступны необходимые данные о датасете, код обучения и запуска, а также параметры модели - причём на условиях, позволяющих использовать, изучать, изменять и распространять систему. Поэтому название «open source» само по себе ещё ничего не гарантирует. В случае ИИ необходимо смотреть, что именно открыто: только веса, исходный код, данные, методика обучения или весь набор компонентов, необходимый для воспроизводимой модификации системы. Для цифрового общества это принципиальная разница: доступ к результату и доступ к способу его создания - разные уровни открытости. Позиция хорошо согласуется с принципом свободного информационного обмена: недостаточно дать пользователю возможность воспользоваться результатом - важно обеспечить возможность изучать, изменять и распространять технологию. Гэри Маркус - американский учёный и предприниматель, специализирующийся на искусственном интеллекте и когнитивных науках. Он известен критикой чрезмерно оптимистичных прогнозов о возможностях ИИ и выступает за более прозрачный, научно обоснованный и ответственный подход к развитию технологий.