НИИ ИИ

@ai_rostov · ai · Russian · active

Subscribers 4.4K Subscribers, last 30 days: 4.3K → 4.4K +40 24h
Reach per post (ERR) 23.0%1K avg views
Posting 10.6/day last 5 hours ago
Reactions per 1K views 3.1 ⭐

Наконец собрался и запустил Bionic с локальным Qwen3.8 27B. Тот случай, когда путь до простого «работает» занял заметно больше времени, чем хотелось бы. До этого я пытался подключить Qwen к Codex через Codex Router и использовать как полноценную модель. Связка запускалась, но на практике локальная модель получала тяжёлый системный контекст, длинную историю и множество инструментов. Ответа иногда приходилось ждать так долго, что всё выглядело зависшим. В итоге я решил разделить задачи. Qwen работает на Mac mini M4 с 48 ГБ, Bionic запущен на MacBook и подключается к модели через LM Studio и LM Link. Первый нормальный тест пройден: короткую заметку Qwen подготовил за 1 минуту 51 секунду. Первый рабочий ответ локального Qwen3.8 27B в Bionic На скриншоте — тот самый первый ответ. Забавно, что модель рассуждает о собственной установке и заодно показывает границу: просить её можно о многом, но рабочий контур должен соответствовать возможностям локального железа. Теперь буду постепенно переносить в Bionic разные задачи и смотреть, где локальный Qwen действительно полезен. Без попытки заменить им все облачные модели и весь Codex сразу. Сначала конкретная задача, разумный контекст и проверяемый результат. 👉 LM Studio — локальный запуск LLM и агент Bionic

Views over time

02004006008004 Sep 14:2212 Nov 01:106974 Sep 14:22: 0 views12 Nov 01:10: 697 views
Snapshots we took after posting.
WhenViews
4 Sep 2026, 14:220
12 Nov 2026, 01:10697

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.