Love. Death. Transformers.

@lovedeathtransformers · ai · Russian · active

Subscribers 26.3K Subscribers, last 30 days: 26.3K → 26.3K +0 24h
Reach per post (ERR) 43.5%11.4K avg views
Posting 2.6/day last 16 hours ago
Reactions per 1K views 12.5 😁 🔥 👍
repost from GigaDev — разработка GigaChat

🧠 GigaChat 3.5 Reasoning — первая в России открытая модель с рассуждениями Выкладываем в open source первую модель GigaChat с полноценным рассуждением. В основе — 432B-A28B MoE. После SFT мы обучили с помощью online RL шесть экспертов по разным направлениям: от математики и кода до агентов, диалога и следования инструкциям. Затем собрали их в одну модель через on-policy distillation: ученик генерирует ответ сам, а эксперт нужного домена оценивает каждый его токен, так что ничего из выученного в RL не теряется. Что получилось по сравнению с GigaChat 3.5 Instant: 🔘SWE-Verified: 43 → 65 🔘AIME-2026: 67 → 92 🔘IFBench: 44 → 77 Рассуждения заметно усилили кодовые и базовые агентные навыки: модель вышла в паритет с сильнейшими открытыми и закрытыми моделями в следовании инструкциям, структурированной генерации и поиске информации в длинном контексте. При этом на сложной математике она тратит на 37% меньше токенов, чем конкуренты: высокие результаты не обязательно требуют более длинных рассуждений. На внутренних корзинах в юридическом домене — экзамен по российскому праву, ответы по документам — модель показала себя лучшей среди доступных open source моделей. Также модель хорошо разговаривает на русском, имеет высокие показатели на внутренних и внешних аренах, обгоняя другие русскоязычные нейросети, в первую очередь за счёт фактической точности ответов. Что интересного в обучении: — Обучали модель на большом числе сред, а также сами построили 55 уникальных сред с проверяемым результатом, 12 тысяч задач, часть полностью на русском. — Агент для кода учился внутри настоящих harness. — Curriculum, который перед каждой стадией убирает уже освоенные задачи и позволяет сократить затраты на инференс вдвое. — Нативный FP8 на всех этапах. Подробнее о конвейере обучения, наградах и граблях, на которые мы наступили, — в статье на Хабре. ➡ Хабр: статья ➡ Hugging Face: fp8 | bf16 ➡ GitVerse: репозиторий

Views over time

05K10K12 Sep 10:1812 Nov 03:089.4K12 Sep 10:18: 0 views12 Nov 03:08: 9,430 views
Snapshots we took after posting.
WhenViews
12 Sep 2026, 10:180
12 Nov 2026, 03:089.4K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.