AI Product | Igor Akimov

@ai_product · ai · Russian · active

Subscribers 8.3K tracking since 26 Oct
Reach per post (ERR) 33.1%2.7K avg views
Posting 1.1/day last 1 day ago
Reactions per 1K views 7.0 🔥 👍 ❤

Парочка топов ушла из Cursor сегодня к Маску, но еще вчера они показали свой бенчмарк сравнения кодинговых моделей, который вроде как показывает, кто у нас тут красава, лучше всего, что есть на рынке. И это... сюрпрайз, GPT-5.4. Opus 4.6 проигрывает даже более мелкой GPT-5.3-Codex и в качестве, и в сжираемых токенах. А вот Gemini 3.1-Pro пока четверый. Подход у них и правда интересный и зрелый Выделили три проблемы публичных бенчмарков: - Alignment – SWE-bench тестирует багфиксинг, Terminal-Bench – паззлы типа "найди лучший ход в шахматах". Это не то, что разработчики реально делают с агентами. - Оценка – большинство задач допускают множество правильных решений, а бенчмарки ожидают одно конкретное. Либо штрафуют за альтернативный подход, либо добавляют искусственные ограничения. – Утекание в датасеты – задачи из публичных репозиториев утекают в тренировочные данные. Haiku на некоторых бенчмарках догоняет GPT-5. Как устроен CursorBench: Задачи берутся из реальных сессий разработчиков Cursor через Cursor Blame – штуку, которая связывает закоммиченный код с запросом к агенту. Получается естественная пара "запрос - правильное решение". Ключевые отличия: Задачи из внутренней кодовой базы – модели их не видели в обучении Описания задач короткие и неточные – как реально разговаривают с агентами, а не как пишут подробные GitHub issues Сложность растёт – CursorBench-3 примерно вдвое больше по строкам кода и количеству файлов, чем первая версия Обновляется раз в несколько месяцев Текущие задачи решаются в одну сессию. Cursor говорит, что скоро основная работа перейдёт к long-running агентам на собственных машинах – и бенчмарк будет адаптироваться. https://cursor.com/blog/cursorbench

Views over time

01K2K3K13 Mar 16:5226 Oct 23:422.6K13 Mar 16:52: 0 views26 Oct 23:42: 2,560 views
Snapshots we took after posting.
WhenViews
13 Mar 2026, 16:520
26 Oct 2026, 23:422.6K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.