Dealer.AI

@dealerai · ai · Russian · active

Subscribers 16.9K tracking since 24 Oct
Reach per post (ERR) 27.2%4.6K avg views
Posting 5.4/week last 4 days ago
Reactions per 1K views 5.2 🔥 ❤ 👍
edited

Обучи свой decision model на 🕸colab или своей пекарне 😜 (мак тоже пойдёт). Сегодня накину ещё про decision models в лице решения анслота для тюна своей модели. Unsloth позволяет быстро превратить обычную LLM (Qwen, Gemma, Llama) в decision, хоть за базу берут decoder-only модель, но мы все ещё получаем модель, что не генерирует текст, а выбирает из предложенных вариантов и выдаёт вероятность для каждого. Да, тут не энкодер модель, как FRIDA, а декодер модель + голова классификации, это позволяет иметь KV-кэш сахар без ухищрения. 🧠 Что даёт: · Модель читает вход, оценивает варианты и возвращает выбор с калиброванной вероятностью. · Точность на бенчмарках вырастает с ~30% (случайный уровень) до 78–81%. · Обучение занимает 30–50 минут на 4–14 GB VRAM. Как обучить, кратко: 1. Установи Unsloth (Desktop app или pip install unsloth). 2. Выбери модель (например, unsloth/Qwen3.5-4B) и датасет (LocalLLaMA/typed-decisions). 3. Запусти обучение — Unsloth сам подставит рабочие настройки (LoRA r=16, lr=2e-4, 2 эпохи). 4. Готовую модель можно подключить к Decision API. В рамках их решения есть целый пулл спец датасетов (13 штук), которые дают возможность закрыть базовые задачи и обучить на них модельку. Это бесплатно, есть готовый ноутбук на Google Colab, где обучение полностью фри в рамках квоты. Поверьте, квоты вам хватит.😮‍💨 Кому зайдёт? Если нужна не Болталка (хотя и болталку тоже сделать можно), а модель для классификации, маршрутизации тикетов, модерации или любого выбора из вариантов - это быстрый и дешёвый способ. 😏

Views over time

02K4K6K12 Oct 08:5924 Oct 03:055.1K12 Oct 08:59: 0 views24 Oct 03:05: 5,130 views
Snapshots we took after posting.
WhenViews
12 Oct 2026, 08:590
24 Oct 2026, 03:055.1K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.