Сиолошная

Почтим память легенды — StackOverflow почти всё. За декабрь на ресурсе было размещено 3710 вопросов, в прошлом январе 22.5 тыс — почти в 10 раз меньше пика 2014-го года. Ещё до выхода ChatGPT популярность начала падать (интересно, почему? что было в 2020-2022? на все вопросы уже дали ответы?), а после совсем обрушилась. Релевантный пост годовой давности от Pragmatic Engineer: тык. 🫡 пришёл, помог, стал тренировочным полем для LLM, ушёл с миром

ВОСЕМЬ советов от создателя Claude Code, чтобы перестать вайбкодить в Новом году и стать 10x инженером: 1) Запускать 5 терминалов в параллель + 5-10 вкладок на веб-сайте 2) Использовать только Opus 4.5 с размышлениями, который хоть и медленнее, но лучше остальных 3) Файл CLAUDE.md общий для всей команды проекта и обновляется несколько раз в неделю: туда заносятся типовые ошибки и способы их решения (например: «всегда используй Х» или «вместо Y всегда пиши Z») 4) Изменения в CLAUDE.md пусть вносит сам Claude — можно даже тегнуть его в PR или в слаке и заставить описать проблему 5) Начинать почти все сессии в режиме планирования, детально обсуждать требования и тонкости имплементации. После этого переключиться в режим принятия правок, и обычно Claude с первого раза делает что нужно и как нужно 6) Задолбались по 10 раз в день делать одно и то же? Автоматизируйте рутину через слеш-команды для простых скриптовых задач и суб-агентов для задач чуть сложнее. 7) Если вы не крейзи чтобы использовать --dangerously-skip-permissions, но не хотите каждые 5 минут дергаться и читать команды в баше — настройте список одобреных команд 8) Самое главное: дайте инструменту возможность проверять свою работу. С такой обратной связью качество может вырасти в 2-3 раза. А если вы занимаетесь веб-разработкой — используйте Claude Chrome. Для всего другого нужно придумать и написать тесты — тогда дело начнёт спориться, а вы не будете тупить над ошибками (над ними будет работать Claude) Забирай себе на стену и ищи успеха в 2026-м году!

+1

DiffThinker: Towards Generative Multimodal Reasoning with Diffusion Models (блог) Прикольная статья, показывающая новую (хотя думаю схожие работы были) парадигму: применение модели генерации изображений для решения визуальных пазлов. Сейчас когда вы работаете в Gemini App, то модель смотрит на всю картинку целиком, затем размышляет текстом и выдаёт текстовый ответ (слева сверху на первой картинке). ChatGPT, начиная с моделей о-серии, научились пользоваться инструментом вырезания части картинки: они могут отдать в Python команду «обрежь и приблизь верхний правый угол», посмотреть на него, подумать текстом и выдать текстовый же ответ (справа сверху на первой картинке) В случае DiffThinker (нижняя половина первой картинки) применяется Qwen-Image-Edit, который прямо на самой картинке генерирует решение в виде пути / точек / перестановки кусочков изображения. Перебор решений происходит в латентном пространстве (то есть после того, как VAE Encoder сжал изображение в некоторый набор векторов, которые всё ещё хранят смысл и детали изображения, но занимают меньше места в памяти), после чего Decoder расшифровывает латент решения обратно. К сожалению, подход не полностью end-2-end: во-первых, результат со сгенерированной картинки парсит отдельный код, не модель, и во-вторых, нет никаких рассуждений — единственный текст, который есть в трансформере, это специальный для каждой задачи промпт. Это разочаровывает, зато учится быстро: 3 часа на 8 H200. Надеюсь, авторам или другим талантливым людям дадут бюджет побольше, чтобы могли полноценно замкнуть цикл. Чтоб модель представила несколько решений, потом сама порассуждала над ними текстом, затем допилила один ответ и могла его вербализовать и/или выдать картинку. Ещё авторы дообучают модель на каждую задачу, поэтому не получается проверить, как работает на по-настоящему новых задачах (тут просто меняют размер поля). Вторая картинка — примеры задач и их решений DiffThinker-ом: поиск пути в лабиринте, соединение точек, судоку и восстановление изображения по кусочкам. Третья картинка — как выглядят решения на промежуточных шагах. Видно, что модель исследует несколько вариантов в параллель, но затем стирает неправильные пути и оставляет только верный. Четвертая картинка — пример объединения этого подхода и модели-критика на основе Gemini 3 Flash: диффузия генерирует 3-5 разных вариантов решения, а Gemini выбирает, какой из них является результатом. Пятая картинка — метрики, где видно, насколько лучше моделей даже с сильным Perception работает подход DiffThinker.

Первая новостная заметка от TheInformation в новом году: OpenAI наращивает усилия по разработке аудио-моделей в преддверии выпуска новых девайсов. Тезисно: — Когда пользователи общаются с ChatGPT голосом, чат-бот использует аудиомодель, отличную от текстовой. Голосовая 4o не получила никаких обновлений после выхода GPT-5, она не умеет думать итд. — Более того фича общения голосом хоть и относительно популярная, всё равно большая часть пользователей использует текст. OpenAI должны сначала приучить пользователей общаться вслух с такими продуктами, как ChatGPT, чтобы перейти к выпуску девайсов. — По словам одного из источников, за последние два месяца OpenAI объединила несколько инженерных, продуктовых и исследовательских команд для работы над улучшением аудиомоделей для будущих устройств компании. Компания планирует выпустить новую аудиомодель в первом квартале 2026 года. — Новая архитектура аудиомодели позволяет генерировать ответы, которые звучат более естественно и эмоционально, а также предоставлять более точную и полную информацию, сообщил источник. Новая модель сможет говорить одновременно с пользователем (чего не умеют текущие модели) и будет лучше реагировать, когда её перебивают. — по словам нескольких источников, OpenAI разрабатывает не одно устройство, а целое семейство девайсов, которые планируется выпускать постепенно. Среди идей, которые обсуждала компания — умные очки и смарт-динамик без дисплея. Ожидается, что взаимодействие с этим устройством будет осуществляться преимущественно с помощью голоса.

Отдельно картинка с архитектурой. Слева — обычный residual, по центру — как было у ByteDance, и в чём собственно идея HyperConnection. Обратите внимание, что x_l теперь не 1, а 4 — это как раз увеличения количества стримов, по которым течёт информация. Самый-самый TLDR: вместо 1 эмбеддинга теперь 4, но каждый слой всё равно обрабатывает лишь один, так что вычислений не сильно больше.

Главных результата 2: 1) значение функции ошибки меньше, чем у обычного трансформера, даже в пересчёте на количество вычислений при тренировке (все приёмы выше добавляют ~7% вычислений на шаг), то есть модель лучше предсказывает текст 2) что транслируется в приросты на бенчмарках Ждём в DeepSeekV4!

И собственно всё это было сделано год назад ребятами из ByteDance. Они что-то пообучали, где-то у них получилось лучше, но шума не было, и, насколько мне известно, никто этим не пользовался в реальных больших моделях. DeepSeek нашли, почему это может плохо работать с масштабированием. Всё дело как раз в этой матрице 4x4, которая указывает, из каких труб куда и сколько воды переливать. Никаких ограничений на это не ставилось, и могло происходить так, что нарушалось свойство identity из residual stream. Вот у нас была формула X_4 = X_3 + F(X_3), а теперь стало так: X_4 = странная_штука(X_3) + F(X_3). Если странная_штука будет выдавать очень большие значения, то это приведёт к перетягиванию градиентов на себя, и F будет плохо учиться. А если будет давать очень маленькие значения, то тогда все предыдущие слои в модели (в данном случае 3 слоя) почти не будут учиться. Старая-добрая проблема затухания и взрывов градиентов. При этом странная_штука — это всё ещё просто одна маленькая матрица, задающая веса смешивания 4 разных потоков информации. И DeepSeek предлагают сделать очень простую вещь, чтобы решить проблему: использовать алгоритм Синхорна-Кноппа 1967-го года для энтропийной проекции на многогранник Биркгофа. 😑 вот такими сложными словами УЧЬЁНЫЕ говорят: да просто давайте матрицу поменяем так, чтобы сумма по всем столбцам и строкам была нормирована к единице. Такие матрицы называются дважды стохастическими, все элементы которых неотрицательны, и их множество как раз и называют «Многогранником Биркгофа» — отсюда такие сложности. Алгоритм Синхорна-Кноппа работает тоже очень просто: мы итеративно нормируем поочередно столбцы и строки к единице. То есть сначала суммируем каждый столбик и делим каждое число на сумму (получилось, что сумма равна единице). Потом делаем то же самое для строчек, тем самым ломая логику столбиков. Но этот процесс ходится к тому, что на выходе после нескольких повторений и будет матрица, в которой строки и столбцы суммируются в 1. На практике это означает, что мы контролируем, что не будет перекосов, когда какие-то стримы получают очень большой или очень маленький вес, который препятствует обучению. При сравнении своей модификации с вариантом от ByteDance считают максимальное произведение весов, которые были даны какому-то сигналу (эмбеддингу): раньше было 3000 (затмевал всё), теперь 1.6. У DeepSeek в теории должно быть 1, но так как Алгоритм Синхорна-Кноппа итерационный, и его делают всего 20 раз, то иногда занчения могут быть чуть выше единицы. А 1.01 ^ 100 (1% отклонения на протяжении 100 слоёв) — это 2.7, и именно поэтому нормировка важна Как всегда, DeepSeek написали много про технические оптимизации, как это всё заставить работать быстро. Ключевое — это что Алгоритм Синхорна-Кноппа работает полностью в регистрах GPU (самая быстрая память, с которой напрямую общаются CUDA-ядра).

mHC: Manifold-Constrained Hyper-Connections DeepSeek переосмыслили residual stream в трансформерах, развивая прошлогодние идеи исследователей из ByteDance. Видимо, это архитектурное решение будет использоваться в DeepSeekV4, в статье на это есть намек. С момента появления в ResNet в 2016-м году и до наших дней слои в моделях ставят друг на друга так, что каждый слой формирует некоторую «добавку» к тому, что приходит ему на вход. Через всю модель проходит один большой вектор (для каждого токена), в который трансформер может писать информацию (обновляя вектор) и читать её в будущих слоях. Например, выход 4-го слоя будет равен выходу третьего плюс некоторая функция от выхода третьего: X_4 = X_3 + F(X_3). Если модель решит, что так будет лучше — она может почти ничего не добавлять, не менять и прокидывать информацию в векторе дальше. Видел исследования, которые показывают, что ближе к последним слоям второе слагаемое в сумме становится очень маленьким, то есть почти не влияет на результат (я про это рассказывал вот тут в лекции на примере обрубания последней четверти GPT-2). Это очень важно для обучения глубоких нейросетей, состоящих из большого количества слоёв — потому что позволяет градиентам (сигналу от ошибок при обучении) протекать до самых первых слоёв. Именно из-за residual и начали появляться всё более глубокие сети. Но в векторе, который проходит через модель, можно хранить лишь определённое количество информации — и хоть размер вектора сильно вырос за последние годы, это всё равно вносит некоторые ограничения. Хочется-то больше! ByteDance предложили сделать несколько параллельных стримов, по которым будет течь информация, а чтобы не увеличивать количество параметров в слоях (FFN и Self-Attention) каждый из них всё ещё работает лишь с одним вектором того же размера. Трюк в том, что обучаются матрицы, задающие веса в комбинации этих параллельных стримов. Например, пусть вместо 1 вектора размерности C каждый токен будет представлен 4 векторами такой же размерности. В самом начале модели они просто дублируются и являются одинаковыми, но в более поздних слоях становятся разными. Эти 4 вектора взвешенно усредняются в один вектор (и веса обучаются, это логистическая регрессия из C в 1) — и такой «обычный» по размеру вектор уже обрабатывается FFN/Self-Attention слоем. Gemini посоветовала дать аналогию для нетехнической аудитории — считайте, что для каждого слова есть труба, по которой течет информация. А тут просто вместо 1 трубы делаем 4. На выходе слоя делается обратное преобразование, из одного эмбеддинга (вектора) в 4, тоже с разными весами. Но теперь эти 4 эмбеддинга возвращаются не в свои 4 стрима, а в их смесь, которая получается перемножением на обучаемую матрицу 4x4. Это перемножение как бы задаёт преобразование вида «в новый эмбеддинг №1 возьми 80% информации из старого эмбеддинга №1 и добавь 20% из №2». Это нужно для того, чтобы лучше проявить тот или иной тип информации — например, первый стрим из четырех может отвечать за семантику, второй за синтаксис, третий за знания и так далее. И для каждого слоя нужна своя пропорция для решения определённой задачи.

Утро первого января проходит так 🤔 Статья: https://arxiv.org/abs/2512.24880 Wenfeng проснулся утром 31-го декабря и выбрал релизнуть статью вместо нарезания китайских салатов.

И отдельный пост для наших уважаемых скептиков — для предсказаний на 2026-й! Тема предсказаний: какая наименее впечатляющая экономически ценная интеллектуальная задача будет не под силу ИИ на конец года? (за спам под постом буду банить, только предсказания, чтобы было легче через год читать)

Sholto Douglas, отвечающий за масштабирование RL в Anthropic (отсюда): — Самым поразительным в следующем году станет то, что другие виды интеллектуального труда испытают на себе то же, что сейчас чувствуют разработчики: если в начале года они писали большую часть кода вручную, то к концу года они почти перестали это делать. Я называю это «опытом Claude Code», но применительно ко всем сферам умственной деятельности. — Также я думаю, что проблема непрерывного обучения, вероятно, будет успешно решена, что мы увидим первые тестовые внедрения домашних роботов, а сама разработка ПО в следующем году станет совершенно безумной. 🙏

Глядя на свои ожидания от 2025-го года понимаю, что самое большое разочарование — что не вышла GTA VI 😣 В остальном неплохо — переехал и живу в Лондоне, продолжил тему здоровья и похудел, и под конец года вышло много моделей, подвинувших фронтир даже по отношению к тому, что вышло летом. TLDR года: — открытие в ML: однозначно кодинг-агенты, развивающие парадигму рассуждений, показанных в конце прошлого года. Если называть 2 важных продукта, то это Claude Code / Codex и Deep Research / GPT Pro. — статья/проект: в прошлый раз мне было тяжело выбрать, и я ошибся — за 2024-й надо было выбирать DeepSeek v3; я по ней тогда пробежался и пропустил много технических деталей. В этом году думаю честно будет выбрать DeepSeek R1, которая показала, что OpenAI не врали, и что действительно заставить модели учиться относительно просто. Существенная часть других статей в этом году строилась на обучении рассуждениям. — игра: Battlefield 6 (RIP Vince Zampella 😭) — песня: первое место делят Wet Leg - catch these fists (в обработке для Borderlands 4, но полной версии я не видел, только 40 рекламных секунд), The Pointer Sisters - Hot Together из трейлера GTA VI, который будем слушать ближайшие лет 15, и Shake It To The Max (но не клип 😳) — за год не вышло ни одного лонга: то был занят, то брался писать и бросал, даже вот под конец года уже начал накидывать черновик. В следующем году наверстаем — хочу поставить целью по 1 хотя бы какому-то блогпосту, не обязательно на 40 минут четния, на английском. 😀 как раз начало есть. — друзья, приятели и движ в Лондоне! Существенно больше, чем в Азии, по которой я катался долгое время. — разочарование года: отсутствие анонса Half-Life 3 🥲 Ожидания от 2026: — найти интересную работу (хотя в этом году была местами интересная) — больше ходить/двигаться, продолжая тему «здоровье» — GTA VI 😳 ну пожалуйста без переносов 🙏 — кто-то (DeepSeek???) опубликует статью с архитектурой, описывающей прорыв Gemini 3: быстрая дешевая генерация, но с огромным количеством знаний. Хотя с равной вероятностью могу предположить, что этого не произойдет (не хватит ресурсов). — НЕлопнувший пузырь ведущих компаний, включая OpenAI, но с возможными корректировками прогноза выручки. Но большой упор на науку, как я писал уже несколько раз — и чтоб агенты, делающие часовые задачи, вышли за пределы кодинга и DeepResearch и пришли в большое количество доменов (см. видео снизу) Всех с наступающим, спасибо, что читаете, лайкаете и комментируете, спасибо, что делитесь со своими знакомыми (надеюсь, вы это делаете)! С Новым годом! 🎅🎁🎄🎅

Но сама работа очень детальна и рассматривает множество связей и эффектов от ускорения той или иной части исследований. Читать тут: https://www.aifuturesmodel.com/#section-howdoesourmodelbehaveafterfullairdautomation

Авторы AI 2027 обновили свою работу и скорректировали прогнозы времени развития AI — и представили AI Futures Model (пересказ в блоге, основная страница, модель предсказания и 100-страничный аппендикс). Эта модель модель учитывает больше факторов, чем предыдущая, и вводит несколько ключевых точек развития, достижимость которых оценивается через эти факторы. Спойлер: модель предсказывает, что сроки достижения полной автоматизации программирования будут примерно на 3 года больше, чем в предыдущей модели (AI 2027). В основном это связано с менее оптимистичным взглядом на ускорение исследований в области ИИ на этапе до полной автоматизации. Одним из важных новых факторов является research taste (исследовательское чутьё?), насколько хорошо ИИ умеет выбирать направления исследований и интерпретировать эксперименты. У людей в ведущих лабораториях этот навык очень прокачан — они могут по нескольким экспериментам понять, что работает лучше, что хуже. Саму модель я не успел изучить досконально, и пока ознакомился лишь с кратким пересказом. Развитие делится на 3 этапа, первый из которых прогнозирует появление «Автоматизированного программиста» (AC). Если перенести его в сегодняшний день, он был бы так же производителен сам по себе, как люди-программисты без помощи ИИ. То есть, можно было бы убрать всех людей-программистов из проекта по созданию AGI, и работа шла бы так же быстро, как если бы там были только люди. Для прогнозирования этого авторы опираются на все те же данные METR по длине задач, которые могут решаться автономными агентами, но с некоторыми поправками: — Ресурсы для прогресса ИИ — прежде всего вычислительные мощности, труд по разметке, данные и т.д. — не будут расти такими же темпами вечно, поэтому прогноз нужно слегка занизить. — В то же время сам ИИ будет ускорять развитие за счёт увеличения эффективности труда исследователей — и достаточно спорный тезис: авторы предвидят сверхэкспоненциальный рост длины автономности агентов в силу некоторых причин, однако это не очень влияет на первый этап, пока мы не достигли AC. К сожалению, в кратком пересказе ничего не говорят про корректировку данных METR на зашумлённость текущих оценок, вероятность переобучения на конкретный бенчмарк (хотя я оцениваю её как достаточно низкую), и самое главное, как заметил Сергея Николенко в комментариях пару недель назад — как выглядит разница между горизонтом выполнения задачи 5 и 10 лет? Какие задачи, требующие 10 лет труда людей, не может сделать агент, решающий 5-летки? То есть возможно интуиция оценки горизонтов автономности не будет иметь смысла после какого-то порога. Этап 2 предсказывает, как быстро мы перейдем от AC к Сверхчеловеческому ИИ-исследователю (SAR) — ИИ, чье исследовательское чутье соответствует уровню лучшего исследователя-человека. Этап 3 — это саморазвитие ИИ с нулевым вкладом человека, оно совсем за облаками пока. Пара цитат от Daniel Kokotajlo, соавтора работы: — Меня совершенно не впечатляют разговоры об ограничениях текущей парадигмы. Последние десять лет были, по сути, чередой преодолений одного «хваленого» ограничения за другим; глубокое обучение «уперлось в стену» лишь в том смысле, в каком Годзилла упирался (и пробивал насквозь) во множество стен. — Способность учиться у целого парка развернутых агентов может компенсировать неэффективность использования данных, а способность управлять файловыми системами в огромных контекстных окнах и регулярно обновлять веса модели может компенсировать отсутствие непрерывного обучения. — [думаю, что будет] в общем, та же последовательность событий, что описана в AI 2027, только, может быть, она займет на год или два больше времени, и с различными другими мелкими отличиями (например, я не ожидаю, что у какой-то одной компании будет такой большой отрыв, как у OpenBrain) — беспокоюсь, что к 2027 году METR, по сути, перестанет измерять длину горизонтов планирования, и это пугает, потому что тогда мы, возможно, не сможем сказать: ускоряется ли развитие до супер-экспоненциального или продолжает расти устойчивым экспоненциальными темпами.

🥹 почему так много интересных ссылок решили выпустить именно в ночь на 31 декабря 😔 😣

Claude выращивает томат. 🍅 Интересный эксперимент, где Claude вот уже 37 дней выращивает томат в контролируемой среде. У него есть датчики температуры, влажности воздуха и почвы, давления, уровня СО2, температуры листьев. И он может управлять светом, подогревом почвы (через подогрев коврика), вентиляцией, подачей воды. Посмотреть, что там сейчас и почитать лог можно тут: https://autoncorp.com/biodome/ Автономные теплицы все ближе! Автор

Пора бы начать думать, какую LLM мы отправим в первую автономную миссию на Марс для локального управления развертыванием базы.

На ночь глядя под конец года Epoch.AI посчитали оценку GPT-5.2 Pro на FrontierMath Tier 4. Система решила 14 задач из 48. Напомню, что Tier 4 появился полгода назад потому, что авторы поняли, что в первых трёх (выпущенных за полгода до этого 😳) тирах модели уже делают хороший прогресс. Tier 4 включает в себя задачи исследовательского уровня, с которыми сталкиваются профессиональные математики в ходе работы, в частности тех, которые ещё не опубликованы (поэтому модели не могли ни найти, ни обучиться на этом). В Tier 5 видимо включат только те задачи, для которых решений нет 😳 Всего за год модели сделали колоссальный прорыв в математике, и уже находятся на границе meaningful contribution в задачах исследовательского уровня. 🤩 каким же будет 2026-й, компании наперегонки будут заявлять о прорывах тут и там. Уже вижу, как у части сообщетсва будет бомбить, что это хайп, маркетинг и на самом деле ничего такого 🙂

Или вот широко известный в узких кругах Апанасик пишет: «Лид продакт в Google AI Studio [Logan] вон вообще обещал, что к концу года каждый сможет сделать себе игру». Понятно, что это чисто пиар» И если воспринимать это как «каждый сможет с минимальными усилиями создать аналог игры года» — то это очевидно неправда. Но это глупая интерпретация, по тем же причинам, по которым считать, что 90% кода «будут писаться LLMками» не состоялось. Но с другой стороны под конец года YouTube запустили фичу генерации простых игр без программирования, и какие-то демки от пользователей там уже есть. Игры ли это уровня Minecraft, Fortnite или Expedition 33? (🤦 она и тут оказалась в списке) Очевидно, нет. Но с другой стороны креативный человек действительно может создать простую игру на вечерок для своего ребенка или приятелей на полчасика — не трогая ни строчки кода. И в этой ситуации сказать, что оригинальное высказывание Logan неверное язык не поворачивается В общем, что из истории можно вынести: если не воспринимать высказывания хоть и в очевидном, но абсурдном смысле, а пытаться понять, что имел в виду человек и что действительно может оказаться правдой, то внезапно окажется, что хоть какой-то сигнал из слов можно выцепить.

Думаю, что во время стрима с Валерой по обсуждению высказвания CEO Anthropic про то, что ИИ будет писать 90-100% кода, очень точно попал в некоторые аспекты интерпретации. Вот основной разработчик Claude Code Boris Cherny похвастался, что за последние 30 дней он ни разу не открывал IDE (среду разрботки), и что занимался только ревью и мелкими правками, в то время как модели написали за него большую часть из: — 259 пулл-реквестов — 498 коммитов — 40 тысяч строк кода добавлено, 38 тысяч удалено (можете считать, что всего он написал 2000 строк 😀😀😀) Можно найти много причин, почему это не бьется с персональным опытом, когда дал простую задачу, а модель не смогла, и пришлось копаться. Может быть язык программирования более редкий и специфичный, может, библиотеки в одном и том же языке разные по популярности; наверняка у Anthropic куда лучше Agents.MD файлы, описывающие тонкости разработки конкретного проекта для агента. Больше тестов для проверки работы агентов, или банально промпты детальнее и длиннее — это всё таки не вайб-кодинг, а вдумчивая разработка, где существенное количество ментальных усилий идёт в составление промпта и контекста. Это не означает, что 90% всего кода уже пишется или даже может писаться моделями. Но точно есть такие позиции — причём, не начального уровня и не на халтурных проектах — где 80-90% достижимы. Если вдруг завтра, пока нарезаете салаты, нечего будет поставить на фон — рекомендую переслушать тот стрим, получилось очень круто, как мне кажется: https://youtu.be/psLjf6xeaj0