Бабр. Дальше некуда. Сибирь

Компания Anthropic, создавшая чат-бота Claude, в свежих корпоративных документах осторожно намекает, что подходит к порогу, за которым модели смогут ускорять собственную разработку. Речь идёт о рекурсивном самосовершенствовании — процессе, при котором искусственный интеллект всё активнее участвует в создании следующих версий себя. Отсюда один шаг до реального искусственного самосовершенствующегося разума. Пока полноценного автономного цикла в сфере ИИ нет: люди по-прежнему задают направление развития систем, программируют их и контролируют ключевые этапы. Однако внутренние данные показывают, что Claude уже пишет подавляющую часть кода компании, а инженеры выпускают заметно больше изменений, чем несколько лет назад. Компания признаёт, что иногда замечает ускорение прогресса лишь после того, как оно уже произошло. В документах компании звучит сдержанное беспокойство: защитные меры могут не успевать за темпами развития. Anthropic заявляет, что не планирует полностью передавать проектирование следующих поколений моделям без значимого человеческого участия, и рассматривает уточнения собственной политики масштабирования. Скептический взгляд, однако, подсказывает, что подобные заявления сочетают реальные технические сдвиги с привычной риторикой осторожности. Полное рекурсивное самосовершенствование систем ИИ остаётся гипотезой, а не свершившимся фактом. Тем не менее скорость, с которой системы помогают улучшать собственные инструменты, уже меняет привычную картину разработки и заставляет внимательнее следить за тем, где проходит граница между помощью и автономией. #anthropic #ai #ии