🔥 Google Research предложила способ ускорить сложный AI-поиск без длинного reasoning на каждом запросе Новый подход называется Retrieve-for-Train. Идея: вместо того чтобы каждый раз заставлять LLM долго думать и генерировать десятки sub-query, тяжёлую работу переносят в обучение. Схема такая: query → RL-обученный fan-out LM → синтетические target-наборы → компактный diffusion retriever В итоге на inference уже не нужен большой chain-of-thought. Google обучила компактный 53.9M diffusion retriever, который генерирует весь набор направлений поиска сразу, одним неавторегрессионным проходом. Результат: - 12–20× быстрее autoregressive-подходов - latency остаётся от sub-second до нескольких секунд - выше diversity, alignment и recall - меньше дублирующихся sub-query - не нужны human labels для supervision Самое интересное: RL здесь используется не как дорогой online reasoning engine, а как одноразовый механизм, который «компилирует» сложное поведение в более дешёвую модель. Для production-поиска это очень сильная идея: сложное reasoning делается заранее, а inference остаётся быстрым. https://research.google/blog/bypassing-inference-bottlenecks-accelerating-complex-ai-search-with-retrieve-for-train/