Меньше знает — крепче спим? Обычно разработчики хвастаются новыми возможностями моделей, но сегодня повестка диктует нам тренд на «беспокойство» о безопасном развитии ИИ. Moonshot рассказала, какие способности Kimi K3.1 Pro она намеренно снизила. Компания убрала часть обучающих данных и тренировочных задач, связанных с поиском и использованием программных уязвимостей, сохранив задачи по обычному программированию ✔️ Разработчики заявляют, что на внутреннем тесте версия без этих ограничений решала 90,5% задач, а итоговая — 81%. При этом даже после введённых мер новая модель превзошла предшественника по кибервозможностям. ↗️ Тем временем, независимые тесты уже оценили поиск и исправление уязвимостей для защиты программ (однако способность проводить атаки не измерялась) — в Cyber Index от Artificial Analysis модель получила оценку 64/100 (итоги на картинке 5). В этом и есть основная сложность: навыки, полезные для защиты программ 😇, могут пригодиться и для взлома, если попадут в «плохие руки» 😈. А снижение результата в единичном испытании абсолютно не означает, что риск злоупотреблений устранён. ⚡️ Полные веса модели (файлы для её самостоятельного запуска) Moonshot опубликовала вчера. Насколько же эффективными окажутся ограничения при использовании модели вне сервисов разработчика? 🌐 Колаборатория в MAX #colab_новости