ИИ начинает разрабатывать ИИ 22 исследователя, среди которых Джеффри Хинтон, Йошуа Бенджио, Якуб Пачоцки и Джек Кларк, выпустили работу о сценарии intelligence explosion («интеллектуального взрыва») — резком ускорении развития ИИ за счёт автоматизации самих исследований и разработок в этой сфере. По данным Anthropic, к августу Claude уже самостоятельно вёл 26% внутренних R&D-задач под общим контролем человека. Ещё в феврале этот показатель был менее 1% 🤪 Приводится сценарий, при котором возникает петля: 🔵 ИИ помогает создавать более сильный ИИ; 🔵 новые модели автоматизируют ещё большую часть исследований; 🔵 каждый следующий цикл проходит быстрее предыдущего. ❗️ Авторы не утверждают, что «интеллектуальный взрыв» уже начался. Однако если такой переход вообще возможен, общество и регуляторы могут не успеть адаптироваться к темпам развития ИИ. Отсюда логичная рекомендация государствам уже сейчас отслеживать степень автоматизации исследований внутри ИИ-лабораторий, а не ждать появления условного «сверхинтеллекта», который будет полностью автономен. Или всё же «эра SI» нас догоняет?… 💀 🌐 Колаборатория в MAX #colab_повестка