Ваш игровой ПК теперь может тянуть передовые модели локально — и даже без дикого квантования 😨 Исследователи представили и открыли исходный код FreeToken — это система для запуска больших MoE-моделей на обычном железе. Дело в том, что она сама по-умному распределяет вычисления между GPU, CPU и RAM. Главное: 🟢 Qwen3.6 35B запускается на ноутбуке с RTX 4060 8GB со скоростью 39 токенов/с; 🟢 А например, DeepSeek-V4-Flash 284B — на RTX 5090, выдавать будет 22–25 токенов/с. Используем всю мощь здесь 😎 @xor_journal
CodeCamp
Subscribers
177K
+0 24h
Reach per post (ERR)
12.1%21.4K avg views
Posting
5.1/day
last 1 hour ago
Reactions per 1K views
7.8
🔥 👍 ❤
Views over time
| When | Views |
|---|---|
| 22 Aug 2026, 08:54 | 0 |
| 12 Nov 2026, 19:01 | 17.6K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.