Qwen3.8-27B теперь работает со скоростью 70 токенов/с прямо на ноутбуке. Вышел DFlash 2 — новое поколение спекулятивного декодирования на основе блочной диффузии. DFlash 2 разгоняет Qwen3.8-27B до 70 токенов/с на MacBook Pro с M5 Max. Ускорение авторегрессионного декодирования достигает 4,6 раза, а итоговый вывод остаётся полностью идентичным исходной модели — буквально ни одного отличающегося токена. Уже доступны новые черновые модели для Qwen3.8-27B с нативной поддержкой SGLang, vLLM, llama.cpp и oMLX. Суть подхода: https://inco.ai/blog/dflash2/ А я напомню, что уже есть модель без цензуры :) tg / max
Русский ИТ бизнес
Subscribers
33.7K
+100 24h
Reach per post (ERR)
9.4%3.2K avg views
Posting
23.7/day
last 8 hours ago
Reactions per 1K views
5.3
😁 💩 👍
Views over time
| When | Views |
|---|---|
| 22 Aug 2026, 06:35 | 0 |
| 12 Nov 2026, 12:24 | 3.6K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.