Буквально вот-вот вышел релиз основных компонент прорывного (по словам авторов) фреймворка DeepInfer для запуска DeepSeek-V4.1-Flash. Он позволяет ускорять генерацию токенов, эффективнее распределять вычисления между GPU/NPU и увеличивать пропускную способность благодаря оптимизированным CUDA-ядрам, параллелизму Mixture of Experts, speculative decoding, асинхронному планированию и другим интересным оптимизациям. Читаю оригинальную статью и умиляюсь комментариям. Сложно представить такое количество слов поддержки компании в нашем обществе 😭