Gemini помогла ускорить Gemma в 2,85 раза – за несколько дней. По данным Google, Gemini 4 Argon использовали для оптимизации инференса Gemma 4 E2B в vLLM на NVIDIA A100. В опубликованном замере пропускная способность выросла с примерно 37 900 до более 108 000 токенов в секунду. Компания заявляет о полном совпадении выходных токенов и отсутствии потери качества в проверенных сценариях. Изменения затрагивают разные части выполнения модели: от настройки attention до спекулятивного декодирования. Это ускорение программного стека, обслуживающего модель. Практический смысл – выполнять больше работы на том же оборудовании. Цифры относятся к конкретному замеру: без параметров нагрузки их нельзя переносить на любой сервер или считать скоростью ответа одного чата. Код изменений можно изучить в публичных PR: https://github.com/vllm-project/vllm/pulls?q=is%3Apr+author%3Alucianommartins+created%3A%3E2026-10-05+created%3A%3C2026-10-10