DeepSeek 开源 DeepInfer 推理框架支持昇腾与英伟达

DeepSeek 正式开源其生产级高性能推理框架 DeepInfer，旨在通过极致优化大幅降低大模型部署成本。该框架原生兼容 NVIDIA Blackwell 与华为昇腾 950 等高端数据中心芯片，并披露了惊人的运营数据：单集群日均处理量高达 155 万亿 Token，非高峰时段每 GPU 小时收益约 38 美元，估算毛利率可达 80% 以上。

在技术架构上，DeepInfer 基于 vLLM 深度定制，集成了 FlashMLA、MoE EP+EPLB 并行策略及 DSpark 投机解码等前沿内核。其核心突破在于支持长达 72 小时的 Prompt 缓存（远超行业主流水平）以及 SWA Bounded Replay 预填充优化，显著提升了长上下文场景下的吞吐效率与确定性。配套开源的 deepseek-recipe 组件则解决了自托管环境与官方 API 在提示词拼接及工具调用解析上的兼容性难题，确保行为一致。

此举标志着 DeepSeek 从“模型提供商”向“基础设施标准制定者”的关键跨越。通过公开经过大规模验证的工程实践与营收数据，DeepInfer 不仅为企业自建私有化部署提供了低成本、高能效的参考标准，更在中美 AI 算力竞争背景下，展示了国产异构算力适配的商业可行性，直接对标并冲击闭源商业推理服务的市场格局。