#DeepSeek раскрыл рецепт как построил одну из самых эффективных и дешевых инфраструктур для работы ИИ в мире Сегодня команда #DeepSeek открыла исходный код DeepInfer - движка, на котором работают их собственные сервисы. А еще они показывают цифры, которые почти не публикуют ни OpenAI, ни Anthropic, ни Google. Так мы узнали, что 1 кластер #DeepSeek обрабатывает 155 триллионов токенов в день, а выручка около $38 на карту в час по льготному тарифу. Причем их главный экономический рычаг - это кэш, а не чипы. В своем отчете они пишут, что пропускная способность на карту без учёта попаданий в кэш 60 тысяч токенов в секунду, а с учётом попаданий - 1,5 миллиона. Разница в 25 раз. А средний процент попаданий 96%. То есть реальная стоимость инференса сегодня определяется тем, насколько хорошо вы умеете работать с кэшем.