YC Paper Club 分析 DeepSeek V3 成本与算力瓶颈
热点事件持续更新
YC Paper Club 分析 DeepSeek V3 成本与算力瓶颈
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
YC Paper Club 探讨指出,DeepSeek V3 模型推理卡时达到训练的 12 倍,且在 decode 阶段单卡算力利用率仅为 5%,其主要瓶颈在于显存带宽而非算力。 Saito 称,V3 训练花费 280 万个 H800 卡时,推理一年消耗一千五百多万个卡时,按两年模型寿命摊算则达到 12 倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 17:34
推理卡时是训练的12倍,decode 阶段一块卡只跑出5%算力:YC Paper Club 聊 DeepSeek 推理成本报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- Saito 硬地骇客推理卡时是训练的12倍,decode 阶段一块卡只跑出5%算力:YC Paper Club 聊 DeepSeek 推理成本
YC Paper Club 探讨了 DeepSeek 推理成本,指出其推理卡时达到训练的 12 倍,且 decode 阶段单卡算力利用率仅为 5%,主要瓶颈在于显存带宽。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。