跳到正文
IT之家·人工智能·· 5 天前AI 评分31

消息称 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM 放弃大 SRAM 方案

消息称 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM,放弃大 SRAM 方案

AI 导读

NVIDIA 下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV 工艺的 3D 堆叠 DRAM 方案。当前一代 Groq LPU 采用大容量 SRAM 缓存设计以提供快速解码输出,但 SRAM 存在容量较小且制程升级密度收益有限的局限。同路线的 Cerebras 此前也已预告其未来的 CS-6 将采用 3D 垂直集成 DRAM 技术。

正文

IT之家 10 月 21 日消息,韩媒 ZDNET Korea 当地时间昨日报道称,NVIDIA(英伟达)的下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV(硅通孔)工艺的 3D 堆叠 DRAM 方案。

当前一代的 Groq LPU 采用了大容量 SRAM 的缓存设计,提供快速解码输出。但 SRAM 有着容量较小、制程升级密度收益有限的问题,在大型模型表现和芯片迭代上存在固有局限。

IT之家注意到,同样采用大 SRAM 技术路线的 Cerebras 此前已预告未来的 CS-6 将 3D 垂直集成 DRAM。

相关阅读:

来源:IT之家·人工智能 · ithome.com