Тревога в США и особенно Долине по поводу угрозы выхода AI из-под контроля. - Есть все основания для тревоги и срочных мер по безопасности. Уже Flabe\Mythos 5 в июне официально вышли на грань угрозы уровня С2 по классификации, принятой в Пентагоне. Следующая версия Mithos и тем более создающаяся внутри Anthropic еще более передовая модель - априори должны уже превзойти уровень С2 и приблизиться или достичь уровня С3. Конкурирующие модели других корпораций лишь ненамного отстают от Anthropic или даже сопоставимы с нею. Происходящее вписывается в график предупреждения о вероятности глобальной техногенной катастрофы, которые озвучивались специалистами в области техногенных рисков перед Парижским саммитом по AI: пик угрозы - примерно 2027. - Все предложенные меры, кроме самоограничения корпорациями - запоздалы. Ибо уровень С3 уже должен быть достигнут или почти достигнут. - Самоограничения корпорациями - это фактическое формирование американского картеля в области AI, который выдвигает глобальные амбиции. Это - нормально для эпохи нового оружия поражения, связанного с AI. Но это очень проблематично на практике в силу бюрократизации системы международных отношений. Скорее всего миру сначала придется пройти через шоковое осознание возникших угроз. - Все предлагаемые сейчас в США меры не касаются силового сектора. То есть активность корпораций в области AI просто заметно сильнее засекречивается и в большей степени, чем раньше, перенаправляется на государственные нужды. Наиболее известный источник по этой теме: https://darioamodei.com/post/we-must-pace-the-frontier