DeepSeek 开源推理框架 DeepInfer 并公布集群数据
先了解这件事
DeepSeek 以 Apache-2.0 协议开源了内部大规模推理框架 DeepInfer 及配套的 token 编解码组件 deepseek-recipe。该框架主要提供离线推理能力，目前仅支持运行 DeepSeek-V4.1-Flash 模型，兼容 NVIDIA SM100 GPU 与华为昇腾 950 芯片，暂不包含完整服务端功能。 与此同时，相关技术报告与分析披露了其内部推理集群的数据，显示单集群日服务吞吐量达 155 万亿 token，在非高峰定价下每 GPU 小时收入为 $38。
AI 根据报道生成 · 3 天前更新
事件进展
4 个进展
- 10月21日 14:54 · 1 篇报道DeepSeek开源推理框架DeepInferLatent Space：DeepSeek 开源推理框架 DeepInfer 并披露生产性能数据
- 10月21日 01:05 · 2 篇报道DeepSeek单集群日服务155万亿Token及毛利情况分析Yuchen Jin：DeepSeek 公开推理集群数据：单集群日服务 155 万亿 token，每 GPU 小时收入 $38
- 10月20日 19:43 · 2 篇报道DeepSeek 开源自研推理框架 DeepInferNathan Lambert：DeepSeek 开源自研推理框架 DeepInfer
- 10月20日 16:54 · 11 篇报道DeepSeek开源大模型推理框架DeepInferTianyi Cui：DeepSeek 开源自研推理框架 DeepInfer
报道时间线
沿着报道，了解事件的不同侧面。
- Recode China AIDeepSeek 传融资约 150 亿美元，月之暗面发布 Kimi K3.1 Pro，中国出台 AI 就业政策
月之暗面发布 Kimi K3.1 Pro，具备 100 万 token 上下文窗口及快如闪电的 Highspeed 版本，在 Terminal-Bench 4.0 中取得 65.7% 的分数。同期的行业动态显示，DeepSeek 据传正进行约 150 亿美元的最新融资，中国国务院办公厅则出台了包含 18 项任务的 AI 就业政策指导意见。
- Latent Space精选DeepSeek 开源推理框架 DeepInfer 并披露生产性能数据
Latent Space 汇总并解读了 DeepSeek 开源的推理框架 DeepInfer 及其配套的 deepseek-recipe 组件，涵盖其在 V4.1 Flash 生产环境中的单集群吞吐、缓存命中率及高利润率等数据。
- 邵猛DeepSeek 开源推理框架 DeepInfer 并发布技术报告
DeepSeek 正式开源大规模云服务推理框架 DeepInfer 并发布技术报告，公开了 DeepSeek V4.1 Flash 的硬件选型、KVCache 策略及单一集群 155 万亿 Tokens/天的服务吞吐等内部部署细节。
- The DecoderDeepSeek 开源支撑 V4.1-Flash 模型的内部推理框架 DeepInfer
DeepSeek 以 Apache 2.0 许可证开源了内部推理框架 DeepInfer，该框架基于 vLLM 构建并带有优化计算内核与分布式处理，支撑 V4.1-Flash 模型的高效运行。DeepSeek 还同时发布了 deepseek-recipe，用于复刻官方 API 的 token 处理流程，旨在帮助社区降低算力成本与能耗。
- Yuchen JinDeepSeek 公开推理集群数据：单集群日服务 155 万亿 token，每 GPU 小时收入 $38
深度求索（DeepSeek）公开了推理集群数据，显示单集群日服务吞吐量达 155 万亿 token，非高峰定价下每 GPU 小时收入为 $38。作者指出，其开源了推理框架 DeepInfer 并在架构中支持多种硬件。
- MarkTechPostDeepSeek 开源 DeepInfer 推理框架，支撑 DeepSeek-V4.1-Flash 生产服务
DeepSeek 开源了支撑其生产服务的 DeepInfer 推理框架，采用 Apache 2.0 许可证，目前主要适配 DeepSeek-V4.1-Flash 模型并运行于 NVIDIA SM100 与华为昇腾 950 硬件。
- Tianyi CuiDeepSeek 开源自研推理框架 DeepInfer
DeepSeek 宣布开源自研推理框架 DeepInfer、deepseek-recipe 及其他关键服务组件，旨在帮助全球更多企业和组织顺利部署 DeepSeek 模型并从中获益。
- Rohan PaulDeepSeek 以 Apache 2.0 开源生产推理引擎 DeepInfer
DeepSeek 以 Apache 2.0 协议开源了生产环境背后的推理引擎 DeepInfer，发布 8 小时内即获得 6.3K+ Star。该引擎目前仅支持运行 DeepSeek-V4.1-Flash 模型，硬件适配 NVIDIA SM100 GPU 或华为昇腾 950 芯片，主要提供离线推理的加速层及相关组件，但暂不包含 KV 缓存系统、预填充与解码分离及负载均衡等完整服务端功能。
- Nathan LambertDeepSeek 开源自研推理框架 DeepInfer
Nathan Lambert 转发并评论了 DeepSeek 开源自研推理框架 DeepInfer 的消息，认为这种开源方式能有效推动模型采用，且在联邦机构禁用背景下发布的时机非常有趣。
- DeepSeekDeepSeek 开源自研推理框架 DeepInfer
DeepSeek 正式开源自研推理框架 DeepInfer，该框架用于支撑 DeepSeek-V4.1-Flash 的大规模高吞吐、低延迟运行。官方开源此生产级技术栈旨在帮助社区降低算力和能耗成本，提高 AI 可及性。
- Hacker News-首页DeepSeek 开源高性能大规模推理框架 DeepInfer
DeepSeek 开源了支撑其大规模生产服务的高性能推理框架 DeepInfer，主要提供离线推理能力及核心优化特性。该框架支持 DeepSeek-V4.1-Flash 模型，内置优化内核、多种并行策略、异步调度、批次不变推理、确定性采样和结构化输出，并兼容 NVIDIA SM100 GPU 与华为昇腾 950 NPU。
- Tianyi CuiDeepSeek 开源大规模推理框架 DeepInfer
DeepSeek 以 Apache-2.0 协议开源了高性能的大规模推理框架 DeepInfer，并附带了 GitHub 访问地址。该框架支持优化的 kernel、模型与采样器运行时、多种并行方案、异步调度、批处理不变推理、确定性采样以及结构化输出等特性。
- IT之家·人工智能DeepSeek 将内部推理框架 DeepInfer 全面开源
DeepSeek 正式将内部推理框架 DeepInfer 及其配套组件 deepseek-recipe 全面开源。该框架集成高性能算子与深度优化引擎，支持分布式推理、推测解码、结构化输出等能力，并兼容英伟达与华为昇腾平台，旨在帮助开发者与企业降低大规模推理的算力成本与延迟。
- 公众号：DeepSeekDeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 3110月21日 15:00
- 近 24 小时变化
- -84%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。