德州大学提出Jev-Mem系统：用快速分类器提升AI内存效率

德州大学的研究表明，Jev-Mem 内存系统通过使用快速评分模型处理小型内存决策，可使 AI 内存系统构建长对话内存的速度提升 6.6 倍。该系统采用快速评分器批量返回概率而非生成文本，仅在最终调用大语言模型（LLM）读取内存并回答。在 LoCoMo 基准测试中，其答案得分为 0.777，内存构建时间缩短至 158 秒。 此外，研究者 Rohan Paul 建议，如果 AI 内存管道调用 LLM 进行路由、评分或停止等决策，可尝试使用快速分类器来节省 LLM 调用，将 LLM 留作最终回答使用。

AI 根据报道生成 · 16 小时前更新