gonzo-обзоры ML статей

Прикольный результат. Не все чекпойнты одинаково полезны. Очередная лотерея. Generalization Dynamics of LM Pre-Training Jiaxin Wen, Zhengxuan Wu, Dawn Song, Lijie Chen Paper: https://arxiv.org/abs/2609.33150 Review: https://arxiviq.substack.com/p/generalization-dynamics-of-lm-pre Code: N/A Model: N/A ЧТО сделали: Авторы проверили, как языковые модели переходят от простых поверхностных эвристик к способности обобщать. Для этого они отслеживали частые промежуточные чекпоинты открытых моделей в процессе предобучения с помощью легковесного набора поведенческих тестов. ЧТО получили: Модели нестабильно удерживают способность к рассуждению на масштабах от 9x до 90x оптимума по Чинчилле. В задаче последовательной арифметики точность OLMo3-32B достигает 81% на 2.17T токенов, падает до 0% на 2.19T токенов и снова подскакивает до 81.7% на 2.21T токенов. Выбор промежуточного чекпоинта на 4.5T токенов вместо 4.9T даёт 36.3% против 29.8% точности на GPQA после математического файнтюнинга, а также повышает устойчивость к атакам через prefilling с 21% до 53%. ПОЧЕМУ это важно: Взяв финальный чекпоинт долгого предобучения, можно получить ухудшенные представления для рассуждений и безопасности. При этом диагностические сигналы сильно различаются в разных доменах. Искать правильный чекпойнт здесь: https://t.me/gonzo_ML_podcasts/4823

Декомпозиция RSI :) The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement Yi Duan, Ying Liu, Zirui Tang, Haodong Chen, Jun Zhou, Yumou Liu, Bangrui Xu, Yukai Wu, Sidi Chen, Yuhan Zhou, Haoyu Wang, Xiaoyou Yu, Shaokun Han, Xuzhou Zhu, Le Zhou, Bolin Lu, Wei Zhou, Jiachen Liu, Nuozhou Fang, Jiaxin Tian, Ruoyu Chen, Yuxuan Li, Kai Zuo, Kaiyan Zhang, Qianyu Yang, Zijie Wang, Jiantao Qiu, Conghui He, Guoliang Li, Bowen Zhou, Zhiyuan Liu, Zhoufutu Wen, Jihua Kang, Xuanhe Zhou, Fan Wu Статья: https://arxiv.org/abs/2609.11873 Ревью: https://arxiviq.substack.com/p/the-last-ai-built-by-humans-toward Репа: https://github.com/theseus-labs-rsi/awesome-rsi ЧТО сделали: Предложили таксономию рекурсивного самосовершенствования ИИ из пяти уровней автономии (от L1 до L5) и дорожную карту его оценки. На основе анализа 491 статьи и 72 промышленных систем авторы сделали полный цикл улучшений основной единицей анализа. ЧТО получили: Интерактивные задачи сильно отстают от статических тестов по индексу закрытого потенциала на выборке из 393 оценок передовых моделей. К 2026 году наука аспирантского уровня закрыта на 85.8 пункта, тогда как программная инженерия — на 52.6, а работа с инструментами — лишь на 39.9. В пилотных тестах структурирование окружения подняло баллы на 18.65–39.67 процентного пункта для пяти конфигураций моделей без изменения весов. ПОЧЕМУ это важно: Фреймворк чётко показывает, у кого на самом деле находится контроль над улучшениями. Современные системы всё ещё ограничены созданными человеком правилами оценки и фиксированными целевыми функциями, а не подлинной мета-рекурсией. Раскладывать по уровням здесь: https://t.me/gonzo_ML_podcasts/4822

Свежий репорт от Натана https://www.stateof.ai/ В меру краткий анонс https://nathanbenaich.substack.com/p/state-of-ai-2026

Снова старая добрая нейроэволюция! Один из соавторов, кстати, соавтор той книги. Continual Reinforcement Learning with Neuroevolution Eleni Nisioti, Andrea Cossu, Kathrin Korte, Sebastian Risi Paper: https://arxiv.org/abs/2610.01583 Review: https://arxiviq.substack.com/p/continual-reinforcement-learning Code: https://github.com/eleninisioti/continual_neuroevolution ЧТО сделали: Исследовали нейроэволюцию для непрерывного обучения с подкреплением (continual RL) в меняющихся средах без явных границ между задачами. Авторы сравнили эволюционные стратегии (ES) и генетические алгоритмы (GA) с алгоритмом PPO, тремя его модификациями для непрерывного RL и популяционным RL на бенчмарках от классического управления до задач со зрением. ЧТО получили: ES обеспечили лучший баланс между сохранением старых навыков и освоением новых, превзойдя все RL-бейзлайны в 8 из 18 условий. Градиентные методы не выиграли нигде. GA показали наивысшую точность обучения в 10 из 18 условий, решив задачи, где градиентные алгоритмы терпели неудачу. По замерам авторов, ES находят окрестности в пространстве весов в 3.9 раза шире по сравнению с PPO, а размер общей для задач окрестности предсказывает сохранение навыков (p = 5x10^-5). ПОЧЕМУ это важно: Результаты показывают, что спящие нейроны и дрейф весов вызваны градиентной оптимизацией, а не самой нестационарностью среды. Однако нейроэволюция требует много сэмплов и с трудом сходится на узких пиках функции вознаграждения. Нейроэволюционировать тут: https://t.me/gonzo_ML_podcasts/4821

А ещё OpenAI выпустил свой Jev :) Сразу мультимодальный. https://developers.openai.com/api/docs/guides/decisions

OpenAI решил заняться ковровыми бомбардировками https://github.com/openai/math

Сингулярность отменяется, слава Коши! The Dynamics of Intelligence Explosions Toby Ord Paper: https://arxiv.org/abs/2608.14426 Review: https://arxiviq.substack.com/p/the-dynamics-of-intelligence-explosions ЧТО сделали: Предложили модель рекурсивного самосовершенствования через разностные уравнения со временем. В ней дискретный шаг прироста возможностей привязан к явной длительности цикла обратной связи — времени генерации. ЧТО получили: Прирост возможностей не уходит в бесконечность за конечное время без сжатия длительности циклов к нулю. В непрерывных моделях с A' = k A^r показатель отдачи r > 1 создаёт вертикальную асимптоту, но функции вроде A' = A log A дают двойную экспоненту (A_0^{e^t}) без сингулярности. В дискретных циклах с шагом T_n бесконечный рост за конечное время требует сокращения цикла хотя бы как T_n ~ n^{-(1+ε)}. Если длительность шага постоянна (T_n = k), сингулярности не возникнет даже при тетрации (A_{n+1} = 2^{A_n}). ПОЧЕМУ это важно: Прогресс в R&D не приведёт к математической сингулярности, пока физическое время итерации не начнёт сжиматься к нулю. При этом даже обычная экспонента на машинной скорости способна сжать десять лет работы людей в один календарный год. Искать сингулярность тут: https://t.me/gonzo_ML_podcasts/4820

По свежим запросам читателей. Это какая-то интересная статья — получается, что достаточно двух случайно инициализированных голов внимания, в правильном порядке и применённых нужное количество раз, чтобы интерполировать любой батч последовательностей токенов и перевести его в любой другой целевой батч. Проблема только, что это теорема существования (доказали, что можно), но она не предлагает конкретной конструктивной процедуры (чтобы знать, сколько слоёв нужно). Математика тяжёлая для меня, надо вникать, сходу проверить не могу. Специалисты вэлкам (deepseek не предлагать)! Universal Interpolation for Deep Residual Self-Attention Networks Sibylle Marcotte, Joan Bruna Paper: https://arxiv.org/abs/2610.01981 Code: https://github.com/sibyllema/attention_universality Review: https://arxiviq.substack.com/p/universal-interpolation-for-deep ЧТО сделали: Доказали теорему об универсальной интерполяции для глубоких остаточных сетей самовнимания: фиксированный словарь из нескольких замороженных блоков внимания со случайными гауссовыми весами переводит любой батч из N последовательностей токенов в любой целевой батч лишь за счёт выбора порядка слоёв, их знаков и скалярных коэффициентов. ЧТО получили: Для некаузального внимания с одной головой ширины r >= d ровно двух замороженных случайных блоков хватает для универсальной интерполяции при любых размерах батча N >= 1 и длинах последовательностей n >= 2 на открытом связном множестве полной меры. В численных тестах ранга на 576 конфигурациях (r < d) словари из m = ceil (d/r) блоков достигли полного ранга алгебры Ли в 94/96 запусков (дисперсия 1) и 96/96 (дисперсия 1/d) при допуске 10E-8 (89/96 и 90/96 по всем трём допускам), тогда как при m = ceil (d/r) - 1 получилось 0/96. ПОЧЕМУ это важно: Результат показывает, что глубина и композиция способны полностью заменить настройку параметров каждого отдельного слоя в рекуррентных моделях. Главное ограничение: конструкция не даёт верхних оценок на требуемую глубину сети. Искать универсальность здесь: https://t.me/gonzo_ML_podcasts/4819

Недавно писал про прикольный подход Recirculation, а тут уже и его развитие подоспело (от конкурирующей команды) Write Back the Δ: Revisiting the Same Tokens with Fresh Representations Wencheng Ye, Anning Hu, Xiangdong Zhang, Tianyi Wang, Yikang Li, Hengyu Jin, Bing Li, Junchi Yan Paper: https://arxiv.org/abs/2609.32457 Review: https://arxiviq.substack.com/p/recirculation Code: https://github.com/gooogleshanghai/reflux ЧТО сделали: Авторы представили ReFlux — метод, который возвращает вычисленные инкременты глубины из глубоких слоёв трансформера в более ранние слои через разреженный обучаемый граф обратной связи, зависящий от входа, поверх замороженной языковой модели. ЧТО получили: На восьми бенчмарках на рассуждение ReFlux улучшает среднюю точность на 2.1–2.3 процентных пункта относительно базовых чекпоинтов (прирост на 4.7 п.п. на 2WikiMultiHopQA с 38.5% до 43.2% на Gemma3-4B против 38.6% у Recirculation и 38.9% у TF-Loop). Перплексия на C4 для Gemma3-4B снизилась с 23.8 до 20.9. В потоковом режиме эти улучшения сохраняются при 1× теоретических FLOPs бэкбона и задержке декодирования 1.02×–1.08×. ПОЧЕМУ это важно: Языковые модели могут уточнять промежуточные репрезентации без повторного прогона всех слоёв и без траты лишних токенов на длинные цепочки рассуждений. Однако для продакшена потребуются кастомные ядра, чтобы убрать накладные расходы при декодировании. Подробнее тут: https://t.me/gonzo_ML_podcasts/4818