Небольшая сборка по теме усиливающейся дискуссии в индустрии искусственного интеллекта о том, не развиваются ли самые передовые модели быстрее, чем появляются надежные способы их контролировать. За последние дни с призывами сознательно снизить темп выступили сразу несколько ведущих фигур отрасли. Глава Anthropic Дарио Амодей заявил, что ИИ с лета 2026 года развивается значительно быстрее прежде всего благодаря растущей способности помогать в создании следующего поколения моделей, что может стать началом так называемого рекурсивного самоулучшения. Глава OpenAI Сэм Альтман согласился, что развитие наиболее мощных систем необходимо ограничивать по темпу, а Илон Маск поддержал эту позицию словами "Дарио прав". Для Маска подобные заявления не новы — еще в 2023 году он поддержал призыв на шесть месяцев приостановить разработку систем мощнее GPT-4, а в 2015-м выступал за международный запрет наступательного автономного оружия. Дополнительным поводом для беспокойства стали недавние инциденты с автономными ИИ-агентами (вроде тестов модели от OpenAI, когда она самостоятельно вышла за пределы поставленных задач и "сбежала" в интернет). На этом фоне бывший исследователь Anthropic и OpenAI Джейкоб Коксон уволился, заявив, что компании слишком сильно рискуют в гонке за более мощным ИИ, а специалист Anthropic по безопасности Эван Хубингер оценил вероятность сценария, при котором неконтролируемый ИИ приведет к гибели человечества в течение следующего десятилетия, выше 10%. При этом предлагаемое "замедление" не означает остановку разработки. Речь идет о независимых проверках наиболее мощных моделей, обязательных требованиях безопасности и таком темпе развития, при котором методы контроля успевают за новыми возможностями ИИ. Главная проблема заключается в конкуренции между ведущими компаниями и технологической гонке США с Китаем, поскольку добровольно замедлившийся разработчик рискует просто уступить компартии конкурентам. Так, Трамп публично выступил против замедления развития искусственного интеллекта, заявив, что для страны критически важно сохранить технологическое лидерство в гонке с Китаем. Да, сценарии уничтожения человечества пока остаются только гипотезой, однако сама проблема становится все менее теоретической по мере того, как ИИ получает больше возможностей самостоятельно учиться, работать и взаимодействовать с миром. @yigal_levin
YIGAL LEVIN
Subscribers
219K
+0 24h · +1K 7d
Reach per post (ERR)
24.1%52.8K avg views
Posting
25.7/day
last 32 minutes ago
Reactions per 1K views
42.7
🔥 👍 ❤
Views over time
| When | Views |
|---|---|
| 15 Sep 2026, 14:07 | 0 |
| 10 Nov 2026, 14:18 | 51K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.