Хабр ✔

@habr_com · Russian · active

Subscribers 135K Subscribers, last 30 days: 135K → 135K +0 24h
Reach per post (ERR) 12.2%16.5K avg views
Posting 7.7/day last 5 hours ago
Reactions per 1K views 5.1 ❤ 👍 🔥

Как запустить Qwen3.8-Flash-Next 125B на 6 ГБ VRAM Полный checkpoint Qwen3.8-Flash-Next в bf16 занимает около 360 ГБ на диске. Одна только вспомогательная n-gram таблица внутри модели весит 102 ГБ. По всем прикидкам такое должно требовать серверного железа или облака. А запустили её на обычной RTX 4090 с пиковым расходом VRAM 5,95 ГБ, без квантизации и дистилляции. Причём это не урезанная версия ради демо. Полный checkpoint, native vision, контекст на 262K токенов, по собственным бенчмаркам Qwen конкурирует с закрытыми frontier-моделями в коде и работе с агентами. Фокус в том, что VRAM перестаёт быть узким местом, а нагрузка уходит совсем в другое место.

Views over time

010K20K10 Sep 13:0111 Nov 14:3620.9K10 Sep 13:01: 0 views11 Nov 14:36: 20,900 views
Snapshots we took after posting.
WhenViews
10 Sep 2026, 13:010
11 Nov 2026, 14:3620.9K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.