FSCP

@f_s_c_p · ai · Russian · active

Subscribers 13.6K Subscribers, last 30 days: 13.6K → 13.6K +0 24h
Reach per post (ERR) 6.6%895 avg views
Posting 24.3/day last 9 minutes ago
Reactions per 1K views 6.2 😁 ❤ 🔥
edited

Sakana предложила новую архитектуру памяти: нейросеть сама решает, когда вспоминать, а когда думать Sakana AI выпустила работу о новой рекуррентной архитектуре Continuous Memory Machine (CMM). Sakana предлагает разделение памятей по ролям и то, как они взаимодействуют на: - краткосрочную - история недавней активности нейронов. Она досталась CMM от прошлой разработки Sakana, Continuous Thought Machine. Там у каждого нейрона своя маленькая сеть, обрабатывающая его собственную историю, а «мыслью» модели считается синхронизация нейронов. - долговременную - это отдельное хранилище, которое живёт на протяжении всей задачи. И связующее звено - небольшой трансформер на каждом шаге позволяет двум памятям читать друг друга, писать друг в друга и перестраиваться. Модель может и проигнорировать их, если они не нужны. На классических задачах на память CMM либо лучшая, либо на уровне специализированных архитектур. В лабиринтах 39×39 средняя доля полностью решённых выросла с 37% до 62%, а внимание модели прочерчивает путь, так что за её рассуждением можно следить. Самое интересное - авторы посмотрели, куда модель направляет внимание, и увидели, что она сама выбирает стратегию. В задачах на запоминание она активно обращается к долговременной памяти, а в лабиринтах игнорирует обе памяти и просто считает и её этому никто не научил. _______ Источник | #blockchainRF @F_S_C_P ▪️Генерируй картинки и видео в Mini App: Flux + Veo 3 + Wan 2.2 + MidJourney v7 + другие

Views over time

02505007501K11 Oct 13:1712 Nov 09:5686211 Oct 13:17: 0 views12 Nov 09:56: 862 views
Snapshots we took after posting.
WhenViews
11 Oct 2026, 13:170
12 Nov 2026, 09:56862

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.