A1intelligence — канал об искусственном интеллекте

Глава Anthropic Дарио Амодей призвал замедлить развитие ИИ — по его словам, мы слишком быстро приближаемся к точке невозврата. Он отмечает, что ИИ уже способен к рекурсивному самоулучшению, а недавние инциденты с агентами показали: мы не готовы к такому будущему. Амодей выступает за стратегию «pacing the frontier» — осознанное замедление и создание условий для безопасности и регулирования. Сложно сказать, увидели ли Anthropic потолок в развитии моделей и так идут убедительный способ оправдать будущее отсутствие прогресса перед инвесторами или Дарио действительно переживает за человечество. Но, если честно, слабо верится в искреннее намерение добровольно ограничить собственную потенциальную прибыль 🙂 Подробнее #общество