跳到正文
10月20日周二
  1. AWS Machine Learning Blog65

    AWS 推出 vLLM 推送式 KV 缓存传输机制以改善推理延迟

    AWS 推出了 vLLM 的推送式 NIXL 连接器,通过将解码侧的块注册和传输设置移至后台线程,与预填充计算进行重叠。在 Qwen3-32B 模型基准测试中,该模式相比拉取模式可将首字延迟(TTFT)降低最多 3 倍,并将每输出 token 耗时(TPOT)降低 30%。

    发布时间:

    推荐理由:文章介绍了 vLLM 的推送式 KV 缓存传输方案,读者可以了解它如何通过重叠预处理与解码设置来降低首字延迟。

  2. Hacker News-首页55

    Laminar (YC S24) 推出 flow-1:基于强化学习训练的智能体轨迹错误检测模型

    Laminar 团队发布了 flow-1,这是一个使用强化学习训练、专门用于检测智能体轨迹中隐性错误的开源模型。该模型在自建评测集上的检测质量与 GPT-6-sol 相当,成本降低 23 倍;它运行在名为 Signals 的编码智能体框架中,能通过代码搜索和读取 span 来分析复杂工作流并返回结构化 findings。

    发布时间:
10月19日周一
  1. 量子位65

    AI 开始挑战最复杂的系统:生命

    量子位报道了 AI 生命科学从单点分子模型向生命世界模型的转向。文章指出,尽管 AI 制药在分子层面取得了进展,但新药研发的真正难点在于理解复杂的系统性生命过程;中美两地目前正加速布局生物数据、多尺度建模与实验验证等基础设施,推动 AI 进入理解生命系统的新阶段。

    发布时间:
  2. Hacker News-首页65

    Google Research 开源 Harness2:面向开放世界的递归智能体 harness 框架

    Google Research 开源了 Harness2,这是一个用于开放世界中递归智能体 harness 优化的即插即用框架。它在保持模型权重不变的情况下连接了任务级和 harness 级两层递归,支持并行与串行递归模式,并在多个专业基准测试中提升了模型表现。

    发布时间:
  3. 公众号:昆仑万维54

    SkyProduction 天工工作台发布官方资产库

    SkyProduction 天工工作台正式推出官方资产库,首期开放 6000 多套人设、场景和道具资产,支持标签筛选、预览与跨项目复用。官方称该功能可节省 80% 的素材时间。

    发布时间:
  4. 公众号:面壁智能51

    面壁智能发布大监督智能体,以 MiniCPM 底座落地企业监督场景

    面壁智能联合星火明智发布大监督智能体,基于 MiniCPM 系列高知识密度基座模型落地企业监督场景。该产品覆盖风险、内控、合规、审计、纪检五位一体监督能力,提供 50+ 监督技能与全链条闭环,支持 7×24 预警巡航、云端算力协同及数据不出域。

    发布时间:
  5. Hacker News-首页62

    Agent-Skills.market 推出面向非开发者的 AI 智能体技能目录

    Agent-Skills.market 是一个面向非开发者的 AI 智能体技能目录,收录了由 Anthropic、Stripe、Figma 等团队及社区开发者构建的自动化工作流技能。网站将各项技能改写为通俗语言,涵盖设计创意、文档处理、写作、营销增长、产品管理、业务运营、生产力及知识研究等多个分类,用户可复制源 URL 到 AI 工具中使用。

    发布时间:
  6. Hacker News-首页63

    Strot:编译大模型意图以实现本地零成本持续决策的项目发布

    开源项目 Strot 允许用户通过大模型在编译时将意图转换为本地决策模型,从而在生产环境中以零边际成本和约 60 毫秒延迟对海量记录进行分类、评分与路由。该工具支持通过 pip install strot-ai 安装,在运行时生成包含概率与置信度的类型安全 JSON 结果,并支持低置信度记录自动放弃决策。

    发布时间:
  7. IT之家·人工智能62

    腾讯 WorkBuddy 教育公益版上线:全国教师每月可领 2000 积分,连续 12 个月

    腾讯 SSV 宣布 WorkBuddy 教育公益版正式上线并面向全国教师开放,开通账号后每人每月可领 2000 积分,连续 12 个月。该版本联合多所高校推出了 100 多位教育专家智能体,上线了 5 个创意教学与课件制作工具,后续还将与腾讯文档、乐享知识库及 ima 等工具打通。

    发布时间:
  8. Hacker News-首页63

    Starcraft: Ashfall

    Starcraft: Ashfall 是一款基于星际争霸背景的网页端射击生存小游戏,玩家可操控人族突击队抵御虫群进攻,支持自动开火与增援部署。

    发布时间:
  9. Hacker News-首页65

    Superlite:面向 Claude Code 的自主构建工作流插件

    作者开发了 Superlite 插件,旨在解决 Claude Code 频繁请求人工确认和严格串行执行导致的效率低下问题。该插件通过任务并行化、分层智能体分工以及代码级权限拦截,实现了更高效的自主开发工作流,在基准测试中缩短了构建时间。

    发布时间:
  10. Simon Willison24

    llm-echo 0.5 发布

    调试插件 llm-echo 0.5 版本发布,更新了模拟 token 使用量计算方式,以支持工具调用、系统提示词和 reasoning tokens。新版本可在不调用真实大语言模型的情况下回显输入的提示词,并提供相应的用法示例。

    发布时间:
  11. Claude Code:GitHub Releases25

    Claude Code v2.1.303 发布

    Anthropic 发布了 Claude Code v2.1.303,本次更新主要专注于 bug 修复与可靠性改进。该版本未包含任何新功能说明,属于不可变发布版本且仅允许修改发布标题和说明。

    发布时间:
  12. Hacker News-首页68

    WhatsApp MCP 推出在 Cloudflare 上运行的开源智能体服务

    开源项目 WhatsApp MCP 允许用户在 Cloudflare 账户中运行服务,通过类似 WhatsApp Web 的关联设备方式,让 Claude Code 等 MCP 客户端搜索和读取聊天记录。该服务采用只读设计,将历史数据存储在 Durable Object 的 SQLite 数据库中,并支持通过智能体补全联系人姓名。

    发布时间: