商汤大装置如何提升推理效能以支撑日均6万亿Token服务
商汤大装置通过PD分离与异构混合调度构建万卡级异构推理集群,在特定测试配置下可使整体Token吞吐量提升至原来的5倍。目前该平台日均Token服务量已达到6万亿,预计2026年第四季度将达到日均10万亿Token规模。
商汤大装置通过PD分离与异构混合调度构建万卡级异构推理集群,在特定测试配置下可使整体Token吞吐量提升至原来的5倍。目前该平台日均Token服务量已达到6万亿,预计2026年第四季度将达到日均10万亿Token规模。
首届全球具身智能应用创新挑战赛暨2026中国机器人大赛于10月18日下午在杭州闭幕,来自清华大学、浙江大学、上海交通大学等高校的2000多支队伍、近5000名选手参与角逐。经过三天比拼,大赛最终决出59项冠军、57项亚军、52项季军及12支企业专项赛获奖队伍。冠军团队可获得国家具身智能应用中试基地发放的“实习金卡”,活动现场还为青年选手提供了500多个实习岗位。
达摩院在 RISC-V 中国峰会上发布了面向自动驾驶和具身智能的处理器产品路线图,并首发车规增强处理器玄铁 E908A。会上还透露玄铁 C950 在 Agentic 工作负载和 Qwen3.8-Flash-Next 推理上表现良好,并介绍了其在编译器、Java生态及操作系统等方面的开源贡献。
量子位报道了 AI 生命科学从单点分子模型向生命世界模型的转向。文章指出,尽管 AI 制药在分子层面取得了进展,但新药研发的真正难点在于理解复杂的系统性生命过程;中美两地目前正加速布局生物数据、多尺度建模与实验验证等基础设施,推动 AI 进入理解生命系统的新阶段。
量子位报道,国产高性能互连芯片企业众星微近日举行发布会,推出12款量产芯片、三款高性能互连芯片新品(含PCIe 6.0 Switch、800G多协议AI NIC及多模RAID芯片)及一整套核心IP。目前该公司全栈产品出货量已达80万颗,并已全面进入多家主流整机与解决方案厂商。
2026物理AI与世界模型大会医疗健康世界模型分会场在南京举行,围绕疾病状态演变、干预响应推演及医学知识建模等关键问题展开交流。会上进行了八场主旨演讲,并集中发布了高质量数据集、医疗健康世界模型一体机、专病世界模型、数据底座和智能应用等六方面创新成果。
稀宇科技正式上线 MiniMax M3.1 Flash 模型,其推理速度较前代提升近 3 倍且使用成本降低 70%。该模型在智能体任务、编程、Computer Use 及网络安全等基准测试中表现优异,现已接入 API、MPlan 及 MiniMax Code,并计划稍后开放权重。
推荐理由:MiniMax M3.1 Flash 在保持较低使用成本的同时大幅提升了推理速度与多项基准表现,读者可以据此评估其在自动化与软件开发场景下的落地性价比。
https://x.com/i/article/2112178650451689472
EBU 正在与 NVIDIA 合作扩展其主权框架,引入云服务、开源模型和集成伙伴,以帮助欧洲公共服务媒体在部署智能体时保持对数据、基础设施、模型和安全的控制。同时,Adobe 正在利用 NVIDIA 加速计算推进 Frame.io 视频智能体搜索能力,实现约 5 倍的嵌入向量生成速度提升、最高 4 倍的吞吐量增加以及高达 5 倍的搜索处理延迟降低。
谷歌研究人员近日发布论文称,四个 Gemini 4 Argon 智能体在完全自主的情况下仅用 27 小时便成功通关《我的世界》并击败末影龙。这四个智能体在随机生成的无种子世界中仅通过游戏内聊天框互相协调,无人类辅助,整个过程消耗 13.5 亿个输入 Token 且成本约为 1,620 美元。
伊利诺伊州州长 JB Pritzker 在播客节目中探讨了人工智能、科技与隐私等议题,指出政府在应对技术带来的集体行动问题时必须发挥更积极的作用。他提到人工智能既可能让人类寿命延长至 100 岁,也可能像核武器一样对人类构成威胁。同时,他还讨论了科技发展背景下政府与大企业的关系以及政治重组等话题。
法院文件显示,Disney 正通过破产重组程序收购 Character.AI 的核心技术许可并吸纳其大部分员工,同时将诉讼与监管责任留在濒临破产的主体中。该交易分为两部分,此前 Disney 已支付资金并聘用其前 CEO 及员工,后续还将通过拍卖程序获取其代码、框架及工具等技术资产。
百度智能云文心宣布将于10月21日在杭州举办活动,探讨产业智能体从办公桌到生产线的落地。正文指出产业智能体是AI创造价值的下一站,未披露具体模型版本、参数或功能细节。
Modal 团队实测 NVIDIA 推出的大 Arm 兼容 CPU Vera,发现在高负载下沙箱吞吐量实现翻倍。该测试采用包含 50 个终端基准任务的 Agentless Agent Bench,模拟智能体与强化学习中的并发和异构工作负载。测试表明,该芯片在应对容器资源争抢等高压场景时表现出色的性能。
KiviDB 是一款基于 Rust 编写、兼容 Redis 协议的多线程内存数据库和向量缓存,支持全文检索与向量搜索。它在 32 核环境下单机流水线 GET 吞吐量达到每秒 2100 万次,并内置 Redis Stack 风格的 FT.* 搜索命令,采用 AGPL-3.0 协议开源。
安全公司 Norforge 发现黑客通过自主运行的 AI 智能体入侵了超 100 家网站,受害者包括 John Deere、SharkNinja 和 Cummins 等公司。黑客借助开源平台 Cairn 实施攻击,其攻击活动通过极短的指令在大约 23 小时内完成。相关被袭公司表示已采取应对措施或正在调查,Cairn 创作者则回应称该平台并非黑客工具。
https://x.com/i/article/2112166050850918400
Google Research 开源了 Harness2,这是一个用于开放世界中递归智能体 harness 优化的即插即用框架。它在保持模型权重不变的情况下连接了任务级和 harness 级两层递归,支持并行与串行递归模式,并在多个专业基准测试中提升了模型表现。
Stripe 已同意以 7.5 亿美元收购大模型路由初创公司 OpenRouter,后者目前日处理超过 10 万亿个 token 并服务超 1000 万开发者。该交易价格相当于 OpenRouter 不久前 13 亿美元估值的近 6 倍,其创始人将分得 1.5 亿美元,其余归投资者所有。收购后 Stripe 将直接掌控大模型流量分发与计费层,但也引发了业界对该平台未来是否能继续保持中立性的担忧。
推荐理由:该收购案让支付巨头控制了主流大模型流量分发层,业内正面临平台中立性与利益冲突的现实考验。
Benj Edwards 结合自己用 Suno v4.5 生成数百首个人歌曲、用 Claude Code 开发自玩游戏的经历,提出 AI 正在催生不需要大众受众的个人媒体。文章指出当乐队等创作成本趋近于零时,创作可以只为取悦自己,并讨论了这种趋势对创意产业和就业的潜在冲击。
Meta 官方撰文详解了吉瓦级超集群 Prometheus 的基础设施架构,其一期工程已完工并用于训练 Muse 基础模型。超集群目前部署了 NVIDIA GB200 与 GB300 平台,未来还将引入 Vera Rubin,最终规模将扩展至约 100 万张 GPU。
微软宣布扩展 Project Perception,新增持续评估智能体风险、动态调整权限和遏制威胁的能力,将把模型视作内部风险并实施外部安全控制的原则付诸实践。
本文介绍了如何在 NVIDIA DGX Spark 上离线部署一整套开源 AI 栈,并通过 LiteLLM 统一接口与 n8n 工作流进行对接。文章给出了模型选型、vLLM 与 LiteLLM 的配置步骤以及发票提取等实际工作流案例。
Microsoft 介绍了如何通过 7 月发布的 Project Perception 来管理和治理企业内部的 agentic insider。该系统利用其新的网络安全栈和 Guardian Agents 实时监控并调节每个智能体的行动,为安全从业人员提供实时监控与可追溯性。
Hacker News 用户围绕 3blue1brown 发布的视频探讨了数学领域的未来走向。评论者们就数学学科是否会像生物学一样转向探索机制、机器是否会超越人类抽象思维能力以及技术进步对经济和社会的影响展开了辩论。
Hacker News 社区针对 Terry Tao 关于数学危机的讨论展开了交流,探讨了人工智能在数学领域的进展对研究方法、职业激情以及数学发现本质带来的影响与焦虑。评论者们对 AI 生成解决方案是否会剥夺人类寻找方法的机会持不同观点,并将其与国际象棋等领域的演变进行了对比。
Anthropic 联合创始人 Jack Clark 在曼谷 IMF 会议上发表演讲称,AI 正在科学前沿进行自主创新,人类已进入奇点初期。演讲指出,AI 在编程、数学和生物学等领域的快速突破将加速整体科学进展,未来需要通过基础设施建设和审慎治理来应对带来的经济变革与风险。
开发者基于 MacBook Air 使用知识蒸馏和任务过滤方法,对 Qwen3-4B-Instruct 进行微调并开源了去套话版本 qwen3-4b-deslop。该模型移除了破折号、“不仅而且”以及三连排比等 AI 常见文风习惯,在保持事实准确性的同时将套话得分从 121 降至 12.5,支持通过 Ollama 或 llama.cpp 在本地运行。
MiniMax 发布 M3.1 Flash 模型,拥有 428B 总参数与约 23B 激活参数的 MoE 多模态架构,支持 100 万 tokens 上下文,输入与输出定价分别为每 1M tokens 0.15 美元和 0.60 美元。
AI 的出现有望打破软件工程的规模壁垒,改变上百人维护的大型项目因背负 KPI 而不顾审美的现状。当软件规模不再是竞争壁垒,期待坚持独特审美的小团队作品能够击败那些庞大而丑陋的巨无霸产品。
Stripe 支付服务 Link 的 AI 智能体代购交易在 9 月实现交易量 38 倍与支付金额 20 倍的增长,但 Stripe 未披露具体金额。使用该服务的智能体数量已从约 70 个增至约 200 个,其中包括 Meta's Muse 和 Grok Bot。大多数智能体每笔交易花费约 100 美元,其中零售占交易量的 32%,旅游占 28%。
最多提供 50 页,更早的内容请使用搜索或主题页。