10月20日，DeepSeek对外公布了一份围绕DeepSeek V4.1 Flash的大规模推理部署实践，并同步开放云服务推理框架DeepInfer。比起单纯发布模型参数或跑分，这次更像把“怎样让大模型服务海量用户、同时把成本压住”的工程账本摊开给行业看。与此同时，美国宣布禁采DeepSeek，试图从官方层面扼杀DeepSeek在本土的影响力，两相对比之下，谁更包容开放，谁更顽固保守便一目了然！
从公开内容看，V4.1 Flash在方案设计阶段就给自己设了三道硬约束。其一，不把鸡蛋放在单一芯片篮子里，尽量适配不同厂商的算力平台，让模型在多种硬件上都能跑起来，并争取把各平台性能吃干榨净。其二，把推理流程拆开看：预填充阶段交给常见的8卡节点，解码阶段放到64至128卡的超节点上，再围绕这两个环节的负载差异去安排计算、通信和调度。其三，把KVCache的保存时间拉长到72小时以上，让上下文复用拥有更宽的时间窗；一旦缓存命中，就能少做重复的预填充计算，同时还要把长期保存缓存所需的容量和管理成本提前算进系统里。
这三条看似技术细节，实际都指向大规模推理的老难题：吞吐要上去，延迟要下来，成本还不能失控。DeepSeek称，借助DeepInfer，V4.1 Flash已经能够以较高吞吐和较低延迟承载大规模推理服务。更抓眼球的是两组运营指标：一个集群每天可消化155万亿个Tokens；按谷价折算，每张卡每小时对应38美元收入。
这两个数字之所以引发讨论，是因为它们分别对应服务能力和商业效率。155万亿Tokens/天的单集群处理量，说明其在高峰场景下具备很强的Token吞吐能力；每卡每小时38美元，则给外界提供了一个观察推理服务产出效率的切口。对正在计算“算力投入多久能回本”的行业来说，这类指标比单纯 benchmark 更有现实味道。
但也要看到，DeepSeek并未交出集群总数，也没有列出显卡清单。也就是说，外界目前只能看到“单个集群”的样本，无法据此拼出完整营收盘子，更不能直接推算其每天的真实收入总额和全部Token处理量。单集群数据是一个窗口，不是整本账。
真正值得琢磨的，是DeepInfer开源释放的信号。当前AI竞争正从“模型能不能做出来”转向“服务能不能便宜、稳定、规模化地跑起来”。推理框架恰好卡在这个转折点上：芯片怎么适配、预填充和解码如何分工、缓存留多久、调度怎样减少空转，都会直接影响每Token成本。把这些工程经验开放给社区，意味着更多开发者可以研究其调度、缓存和硬件适配思路，也可能为行业提供一套可借鉴的降本样本。
此前，DeepSeek已因高性价比模型和免费开放AI基建技术受到全球开发者关注；这次把推理部署实践摆上台面，则让外界对其技术路线有了更具体的观察角度。从模型到基建，再到推理框架，DeepSeek正在回答一个更实际的问题：大模型能力如何以可接受的成本，稳定地服务海量用户。DeepInfer能否成为社区新的基础设施选项，单集群155万亿Tokens/天的吞吐又能否复制到更大规模，仍需时间验证。但可以确定的是，围绕AI推理效率的竞赛，已经因为这次开源多了一个新变量。
文章内容仅供参考，不构成投资建议，投资者据此操作风险自负。转载请注明出处：远视互动
