400B-модель уже запускают на iPhone 😮 Чтобы заставить Qwen3.5-397B работать на Apple Silicon, разработчики отказались от Python и фреймворков в пользу «голого» C и шейдеров Metal. Главная фишка — умный стримминг с SSD: веса (160–200 ГБ) не грузятся в RAM целиком, а стримятся прямо с диска через кастомный конвейер. Из нюансов: скорость генерации всего 0,6 токенов в секунду, но, как мы помним, всегда можно попросить агента оптимизировать модель ⌨️ Запускаем гигантов в кармане 😏
CodeCamp
Subscribers
177K
+0 24h
Reach per post (ERR)
12.0%21.2K avg views
Posting
5.2/day
last 1 hour ago
Reactions per 1K views
7.9
🔥 👍 ❤
Views over time
| When | Views |
|---|---|
| 24 Mar 2026, 06:29 | 0 |
| 12 Nov 2026, 19:01 | 17.8K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.