岩芯矩阵联合港科大CMU等开源EdgeRock-4B模型
热点事件持续更新
岩芯矩阵联合港科大CMU等开源EdgeRock-4B模型
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
岩山科技旗下岩芯矩阵联合港科大与CMU等机构发布并开源了EdgeRock-4B模型。该模型采用岩锚记忆机制（RMA），在256K上下文下将KV Cache占用固定在72MiB并减少99.1%，单卡在32K输入输出下可同时运行512路并发，输出吞吐达12124 tokens/s，并基本保留了源模型的推理与多模态能力。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 14:45
港科大与 CMU 等开源 EdgeRock-4B 模型，KV Cache 减少超 99% 且吞吐提至 6 倍报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- 量子位精选港科大与 CMU 等开源 EdgeRock-4B 模型，KV Cache 减少超 99% 且吞吐提至 6 倍
港科大、CMU 与岩山科技旗下岩芯矩阵联合发布并开源 EdgeRock-4B 模型，采用全新的岩锚记忆机制（RMA），在 256K 上下文下将 KV Cache 占用固定在 72MiB 并减少 99.1%。单卡在 32K 输入输出下可同时跑 512 路并发，输出吞吐达 12124 tokens/s，同时基本保留了源模型的推理和多模态能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。