Возможен ли чисто программный взрыв или невозможен, вот в чём вопрос. What if automating AI R&D triggers an intelligence explosion? Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, Sören Mindermann Paper: https://arxiv.org/abs/2609.36054 + https://casp.ac/reports/intelligence-explosion (Cambridge Programme on AI Science & Policy, Frontier AI Working Paper Series No. 2/2026) Review: https://arxiviq.substack.com/p/what-if-automating-ai-r-and-d-triggers Code: N/A Model: N/A ЧТО сделали: Авторы предложили аналитический и регуляторный подход к программному взрыву интеллекта — резкому ускорению развития ИИ за счёт автоматизации исследований и разработки (R&D) без ожидания нового железа. Внутренние метрики передовых лабораторий объединили с макроэкономическими моделями роста, чтобы оценить, преодолеет ли автоматизированный R&D убывающую отдачу и физические ограничения. ЧТО получили: В Anthropic доля одобренного кода, написанного ИИ, выросла с единиц процентов в январе 2025 года до более чем 80% к маю 2026 года, а доля автономных R&D-задач под высокоуровневым присмотром человека — с 1% до 26% с марта по август 2026 года. При полной автоматизации, если отдача от исследовательских усилий r совпадёт с центральными оценками от 1.2 до 1.9 по подобластям ИИ (против бейзлайна постоянной скорости r = 1), прогресс ИИ ускорится в 10 раз примерно за 17 месяцев, сжимая год развития в 5 недель. ПОЧЕМУ это важно: Взрыв интеллекта опередит законотворчество, поэтому государствам нужно заранее ввести обязательную отчётность по R&D, механизмы приостановки вычислений и протоколы изоляции. Впрочем, 90%-ные доверительные интервалы оценок роста опускаются ниже r = 1, а сами расчёты опираются на упрощённые модели, где прогресс софта смешан с ростом вычислений. Разбираться тут: https://t.me/gonzo_ML_podcasts/4842