清华与港中文团队开源LLM智能体KV cache系统AKV
热点事件持续更新
清华与港中文团队开源LLM智能体KV cache系统AKV
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
清华大学与香港中文大学研究团队开源了基于 SGLang 构建的 AKV 系统，这是一个面向大语言模型（LLM）智能体的 KV cache 工程服务系统。 该系统允许智能体直接删除或重新定位 KV 缓存条目，在保持文本轨迹完整的同时实现重复使用，与通过总结缩减历史的传统文本工程不同。相关代码采用 Apache-2.0 许可证开源。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 15:56
清华与港中文团队开源 AKV：面向 LLM 智能体的 KV cache 工程服务系统报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- MarkTechPost清华与港中文团队开源 AKV：面向 LLM 智能体的 KV cache 工程服务系统
清华大学与香港中文大学研究团队开源了 AKV，这是一个基于 SGLang 构建的 LLM 智能体 KV cache 工程服务系统。与通过总结来缩减历史的传统文本工程不同，AKV 允许智能体直接删除或重新定位 KV 缓存条目，在保持文本轨迹完整的同时实现重复使用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。