Книжный куб

@book_cube · ai · Russian · active

Subscribers 15.8K tracking since 24 Oct
Reach per post (ERR) 14.1%2.2K avg views
Posting 3.5/day last 4 hours ago
Reactions per 1K views 5.9 ❤ 🔥 👍

Джефф Дин: правило 1% для AI-продуктов (Рубрика #AI) Видео с Джеффом Дином смотреть всегда интересно и познавательно. Он умеет начать с истории про MapReduce или расчёта на салфетке, а через несколько минут вывести разговор к архитектуре следующего поколения систем. Раньше я уже рассказывал про его TED-выступление, большую лекцию в Rice University, интервью с Ноамом Шазиром и ретроспективу развития AI в Stanford AI Club. А теперь посмотрел новый разговор Джеффа с Дианой Ху на YC Startup School 2026 - «The 1% Rule for Building in AI». Если в предыдущих лекциях он объяснял, как мы пришли к современным моделям, то здесь вопрос практичнее: что ещё имеет смысл строить небольшой команде, когда универсальные модели быстро забирают всё больше задач. Самая полезная мысль выпуска - то самое правило 1%. По мнению Дина ⚠️ Опасно выбирать область, где frontier-модель уже справляется примерно в 20% случаев: это признак, что способность появилась и через полгода или год базовая модель может съесть значительную часть продукта. ✅ Лучше смотреть туда, где сегодня она успешна лишь в 0–1% случаев, а у команды есть способ превратить этот один процент в работающую систему. Таким способом могут стать закрытые предметные данные, узкая специализированная модель, хороший интерфейс или инженерная обвязка: инструменты, память, skills и проверяемый цикл исполнения. Это не гарантия защиты от больших лабораторий, а дисциплина выбора задачи: искать не красивую надстройку над текущей моделью, а устойчивое преимущество вокруг неё. Другая важная мысль была о том, что модель - это только часть системы. Дин говорит о контекстной инженерии как о пространстве, где небольшая команда ещё может конкурировать. Знания внутри весов перемешаны с триллионами токенов обучения, а информация в контексте дана модели прямо сейчас и для конкретной задачи. Поэтому качество системы всё сильнее определяется тем, какие данные она достала, какие инструменты выбрала, как разложила задачу и чем проверила результат. Хороший пример - работа самого Дина с Санджаем Гемаватом. Они описали для агента привычный цикл оптимизации низкоуровневого кода: запустить микробенчмарки, изменить реализацию, снова измерить производительность, проверить более широкий набор сценариев и размер кэша, затем повторить. По сути, многолетний инженерный опыт превратился в skill. Их публичный документ «Performance Hints» можно использовать как исходный материал для похожей обвязки. Для долгих задач одной инструкции мало. По словам Дина, агенты уже могут работать днями и неделями, но легко уходят за границы знакомого распределения и начинают ошибаться. Надёжность появляется из чёткой спецификации, тестов, skills, нескольких параллельных попыток и отдельного оценщика, который отбрасывает неудачные ветки. Особенно хорошо работает перенос программы с одного языка на другой: исходный код и тесты становятся подробной исполняемой спецификацией. И, конечно, разговор с Джеффом не мог обойтись без железа. Он снова рассказывает историю TPU: в 2013 году расчёт показал, что всего три минуты распознавания речи в день на каждого пользователя потребовали бы удвоить серверный парк Google. Ответом стал специализированный чип для низкоточной линейной алгебры; опубликованный Google разбор первого TPU показывал в 30–80 раз лучшую производительность на ватт относительно тогдашних CPU и GPU. Сейчас, по прогнозу Дина, следующий большой сдвиг произойдёт в специализированном железе для inference: меньше перемещений данных, ниже точность вычислений там, где это допустимо, и радикально меньше latency. Это важная поправка к разговорам о «качестве модели»: многие ограничения AI-продукта на практике оказываются ограничениями памяти, энергии, пропускной способности и стоимости ответа. Наконец, Дин ожидает, что в 2027 году заметно вырастет автоматизация самого ML: система будет раскладывать задачу, запускать множество экспериментов, оценивать результаты и собирать улучшенную версию. AlphaEvolve уже показывает форму такого цикла, хотя результаты Google здесь стоит воспринимать именно как данные компании, а не как независимое подтверждение универсальности подхода. В общем, интересно было послушать мысли Джеффа о том, что ждет индустрию в будущем. #AI #Agents #Engineering #Architecture #Infrastructure #Product

Views over time

01K2K3K2 Aug 05:0824 Oct 02:122.8K2 Aug 05:08: 0 views24 Oct 02:12: 2,820 views
Snapshots we took after posting.
WhenViews
2 Aug 2026, 05:080
24 Oct 2026, 02:122.8K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.