🤖 METR выявила расхождения в оценках Anthropic на фоне ускорения разработки ИИ 📄 Исследовательская организация METR (Model Evaluation & Threat Research) опубликовала результаты независимой оценки того, насколько использование искусственного интеллекта ускоряет разработку новых моделей в компании Anthropic. В ходе исследования специалисты получили доступ к внутренним данным компании, включая показатели обучения моделей, использование вычислительных ресурсов и результаты применения ИИ в исследовательской деятельности, а также проанализировали достоверность опубликованных Anthropic оценок рисков, связанных с автоматизацией разработки ИИ. 📊 Согласно выводам METR, с октября 2025 года темпы улучшения возможностей моделей Anthropic на стандартизированных тестовых задачах увеличились примерно в 1,9 раза по сравнению с предшествующим периодом, причём исследователи связывают значительную часть ускорения с использованием ИИ непосредственно в разработке новых моделей. Хотя полученные оценки сопровождаются существенной неопределённостью, а на динамику развития могли повлиять и другие факторы, исследование показывает, что ускорение нельзя объяснить увеличением темпов наращивания вычислительных мощностей для обучения. Пока основной вклад ИИ связан с повышением производительности исследователей, однако METR допускает дальнейший рост самостоятельного участия моделей в разработке следующих поколений ИИ. 🛡 Отдельное внимание исследователи уделили расхождениям между внутренними и публичными оценками безопасности Anthropic, выявленным при проверке августовского доклада компании о рисках автоматизации научных исследований. По мнению METR, уже к 15 июля 2026 года мог быть достигнут предусмотренный политикой безопасности Anthropic порог раннего предупреждения, связанный с двукратным ускорением разработки ИИ вследствие автоматизации исследований, хотя специалисты обеих организаций считают более вероятным, что этого не произошло. При этом METR указывает на недостаточную обоснованность отдельных выводов публичного доклада, соглашаясь с Anthropic в том, что непосредственные катастрофические риски, связанные с возможностями моделей на указанную дату, оставались низкими. 🔔Существенным ограничением независимой проверки стала неполная прозрачность полученных результатов, поскольку Anthropic исключила из опубликованного исследования значительную часть наиболее важных свидетельств, сославшись на необходимость защиты конфиденциальной информации, способной ускорить разработки конкурентов. В результате внешние специалисты не могут в полной мере проверить обоснованность выводов METR, несмотря на предоставленный исследователям доступ к внутренним данным компании. По мере расширения использования ИИ в собственной разработке подобные ограничения приобретают дополнительное значение, когда ускорение технологического прогресса может сокращать время, доступное для независимой оценки новых возможностей моделей и связанных с ними рисков. #ИИ #AIgovernance #AISafety #Anthropic #METR 👍 Школа МИБ