TechLead Stream | Иван Поддубный

@techlead_stream · tech · Russian · active

Subscribers 916 tracking since 24 Oct
Reach per post (ERR) 85.6%784 avg views
Posting 2.3/week last 1 day ago
Reactions per 1K views 29.6 👍 😁 🔥
repost from AI for Devs

🤓 SkillsBench: скиллы дают реальный буст, но только если их писал человек Вышел первый бенчмарк, который проверяет, дают ли «скиллы» реальный прирост ИИ-агентам. Назвали SkillsBench. Для тех, кто в танке, Skill — папка с инструкциями и подсказками, которую агент читает перед выполнением задачи. Скиллы уже встроены в Claude Code, Gemini CLI и Codex CLI, но до сих пор никто не замерял, помогают ли они на самом деле. 86 задач, 11 доменов, 105 экспертов, 7 308 прогонов на 7 моделях. Каждую задачу тестировали в трёх режимах: без скиллов, со скиллами от человека и со скиллами, которые модель написала себе сама. 🟣 Скиллы от людей дали +16.2 п.п. к pass rate 🟣 На 16 из 84 задач результат ухудшился 🟣 Самогенерированные скиллы не помогли вообще (-1.3 п.п.). Модели не умеют писать инструкции, которые потом сами же используют 🟣 Компактные скиллы из 2-3 модулей работают лучше подробных документаций Самый удивительный инсайт из исследования – Haiku 4.5 со скиллами обошла Opus 4.5 без них! Полностью исследование можно прочитать тут. @ai_for_devs

Views over time

020040025 Feb 08:3124 Oct 02:1236925 Feb 08:31: 0 views24 Oct 02:12: 369 views
Snapshots we took after posting.
WhenViews
25 Feb 2026, 08:310
24 Oct 2026, 02:12369

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.