Leiman Lab

@aiadepts · ai · Russian · active

Subscribers 9K tracking since 26 Oct
Reach per post (ERR) 5.5%494 avg views
Posting 0.9/week last 1 day ago
Reactions per 1K views 17.2 👾 ❤‍🔥 👏
edited

AGI ближе, чем кажется: Google Titans и бесконечная память Кажется, ещё вчера мы удивлялись «большим» языковым моделям, а сегодня Google quietly выкатывает Titans – архитектуру, которая не просто читает данные, а учится на лету. Это уже не наращивание контекста, а качественный сдвиг к живым агентам. Что изменилось - Titans обновляют собственные веса прямо во время инференса - Память фактически безгранична: важные факты оседают в параметрах, а не в буфере - DeepSeek OCR сжимает знания визуальными токенами, а Titans делают ставку на непрерывное обучение Как модель решает, что хранить - Встроенный surprise metric смотрит на градиенты - Предсказуемое пропускается – после «Мама мыла» никто не хранит «раму» - Неожиданность или ценная информация вызывают всплеск «сюрприза» – и вес запоминает новое Джефф Хокинс в книге «1000 мозгов» писал: только когда привычное меняется, наш мозг выходит из спящего режима, чтобы переписать программу. Titans звучат подозрительно похоже. Если интересно, почитай Хокинса – там много ответов на вопрос, почему «сюрприз» работает лучше, чем простое запоминание всего подряд.

Views over time

05001K1.5K2K10 Dec 08:0326 Oct 23:141.8K10 Dec 08:03: 0 views26 Oct 23:14: 1,810 views
Snapshots we took after posting.
WhenViews
10 Dec 2025, 08:030
26 Oct 2026, 23:141.8K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.