llm-echo 0.5 发布
调试插件 llm-echo 0.5 版本发布,更新了模拟 token 使用量计算方式,以支持工具调用、系统提示词和 reasoning tokens。新版本可在不调用真实大语言模型的情况下回显输入的提示词,并提供相应的用法示例。
调试插件 llm-echo 0.5 版本发布,更新了模拟 token 使用量计算方式,以支持工具调用、系统提示词和 reasoning tokens。新版本可在不调用真实大语言模型的情况下回显输入的提示词,并提供相应的用法示例。
Netflix 开源了 VMAF(视频多方法融合评估),这是一个曾获艾美奖的感知视频质量评估算法软件库,包含 C 语言库 libvmaf、Python 库及命令行工具。该软件支持训练和测试自定义模型,集成了 PSNR、SSIM 等多种指标,并已作为滤镜被收录进 FFmpeg 中。
本文通过剖析 Intel 8087 芯片的显微照片与微代码,详细解释了其浮点加法和减法的硬件实现原理。相比 8086 处理器,1980 年推出的 8087 将加法运算速度提升了近 100 倍。文章进一步分析了芯片内部的整数加法器、移位器以及指数转换器等关键电路。
英伟达通过一项上游 vLLM 优化,让 2.8 万亿参数量的 Kimi K3 在 GB300 NVL72 上达到 423 tok/s/user 的推理速度,性能提升 1.68 倍。
vLLM 发布 v0.32.1rc0 版本。该版本包含针对 trainer 的 weight-transfer HTTP 协议的相关文档。
Google Cloud AI Research 开源了 Harness² v0.1.0 框架并采用 Apache-2.0 协议。该框架属于递归式 Agent harnessing 框架,在模型权重冻结的情况下,可迭代优化提示词、工具、记忆、技能等 8 个 harness 组件。
作者通过可运行代码实测了 NVIDIA Structured Data Models 库,使用统一的 PyTorch 接口对 TabICLv2、KumoTabular 和 KumoRelational 等预训练模型进行了零训练表格预测,并指出了多个默认行为陷阱。
我国首个全国产十万卡 AI 超集群曙光 8000 在 2026 全国高性能计算学术大会上亮相,并将发布十大重要应用成果。该系统采用超算和智算原生融合路线,同一套算力底座可支持高精度科学计算及大模型训练和推理,目前已覆盖新材料、创新药、人工智能等 26 个领域的 300 多种计算任务。
联想宣布 AI 主机 P7 将于 1024 开启预约,搭载此芯科技 P1 SoC 与后摩智能 M50 dNPU,提供 190TOPS 本地 AI 算力,支持 122B LLM 本地部署、128K 上下文窗口和 50TPS 本地推理,机身重 300g、最大功耗 30W。
随着 Chrome 158 于 2026 年 11 月 17 日进入稳定版,浏览器将停止支持客户端 XSLT,微软 Edge 也将跟随这一调整。谷歌表示移除 XSLT 是为了消除老旧 C/C++ 代码库带来的安全风险,目前仅约 0.02% 的网页加载会使用该技术。网页抓取和搜索引擎爬虫不会受到影响,但依赖客户端 XSLT 渲染的 XML 文件外观将会改变。
AI 编码助手的普及在提升工程吞吐量的同时,也带来了更高的 Bug 率、返工量、审查负载和生产事故。根据 Faros 的研究,高 AI 采用率组织中每个开发者的 Bug 数量增加了 54%,PR 审查时间增加约 5 倍,每个 PR 的事故数增加超过 3 倍。
清华大学THUNLP实验室联合面壁智能、OpenBMB等团队开源智能体操作系统PilotDeck 2.0。该系统以WorkSpace为基本单位实现文件与记忆的物理隔离,推出白盒记忆与Dream模式,支持Always-on后台常驻执行和原生MCP,并采用主强子弱智能路由机制,在Workbuddy Bench上取得79.1分,使复杂任务成本降低近六分之五。
针对美国工作时间未被 AI 评测覆盖的现象,Hacker News 讨论指出编写代码或动手工作很少是真正的瓶颈,审核、反馈与审批流程往往减缓了进展。企业效率提升的瓶颈主要在于组织架构、决策周期以及复杂的沟通成本,而非单纯的产出速度。
开源项目 Esp32sim 是一个使用 Rust 编写的 ESP32 模拟器,支持 Xtensa(ESP32、S3)与 RISC-V(C3、C6)架构的指令级仿真。该工具能够引导真实的 Mask ROM、第二阶段引导加载程序以及未经修改的应用镜像,并可通过 WebAssembly 直接在浏览器中免安装运行。
数字生命卡兹克分享了华硕ProArt创16的一周深度使用体验,该机搭载RTX Spark N1X芯片与128G统一内存,售价37999元。该产品全球开售时,128G版本在京东平台几分钟内即被抢空。
vLLM 发布 v0.32.0 版本,引入了 Model Runner V2、更广泛的低精度 KV 缓存支持、结构化决策与通用解析器,并增强了对 NVIDIA、AMD ROCm、Intel XPU 等多硬件平台的大模型推理与投机解码能力。
推荐理由:vllm v0.32.0 带来了多项硬件平台性能优化与架构升级,为大模型推理部署提供了更低的延迟和更高的吞吐。
开发者 albinstman 推出了 Llmspeed 工具,允许用户在购买硬件前浏览和感受不同本地大语言模型在各种硬件配置下的运行速度。该工具支持按 NVIDIA、AMD、Intel 显卡、Mac 及云端算力等硬件以及多种主流模型进行筛选,速度数据结合了社区基准测试与参数推算,并在 GitHub 上开源。
紫金山实验室联合中国移动、江苏未来网络集团等发布行业首个基于确定性网络的智能体互联平台 AXP。该平台支持百万级智能体注册接入与十万级智能体同时在线运行,具备秒级故障感知切换和百毫秒级语义寻址响应能力。
百度世界2026将于11月12日在北京举办,以“下一幕,智能组织”为主题公布五大核心亮点。大会将带来李彦宏年度主题演讲、百度“芯云模体”全栈AI升级与多款新品发布,并设置12场分论坛及6000平AI展区。
亚马逊CTO Werner Vogels表示,企业在采用AI转型时应避免盲目跟风,需先理清任务需求、核算使用成本并设定Agent的操作边界。他强调,尽管AI能提升效率,但开发团队仍须对系统的执行结果承担责任,且人类的实际经验无法通过算法压缩。
范式智能联合睿思智联正式推出一站式生产级 AI 部署平台模域 ModelSphere 并面向企业免费开源。该平台整合算力管理、模型部署与运行优化,具备简化部署、自动化调优、统一管理多种芯片及适配主流模型等核心优势,已在 GitHub 采用 Apache 2.0 协议开源。
JetBrains 宣布本地 AI 编程工具 Junie Local 已 Day 0 适配英伟达 RTX Spark 平台,初步测试生成速度最高每秒 55 个词元,同时 Windows 版本支持也升级为稳定版。
推荐理由:文章详细拆解了高比例 AI 生成代码下的七层防御体系与评审器优化方案,为团队应对代码审查效率瓶颈提供了可直接参考的工程实践。
Vercel 开发者现在可以在 AI Gateway 上使用 Perplexity Decider!
Perplexity 开源了 SPACE(Sandboxed Platform for Agentic Code Execution),这是其 AI Agent 任务背后的沙箱平台。该平台使每个任务运行在独立的 Firecracker microVM 中,通过将凭证和出站流量控制在虚拟机之外来保障隔离安全,代码已采用 Apache 2.0 协议发布在 GitHub。
vLLM 发布 v0.32.0rc3 版本,修复了 sm90 架构上 Mamba2 chunk scan 内核输出 NaN 的缺陷。
Databricks 宣布 Multi-Statement Transactions 正式可用,支持 UC 托管的 Delta Lake 和 Apache Iceberg 表,让多表多步骤工作流获得原子保证而无需独立数仓。
AWS 销售、市场和全球服务运营团队利用 Amazon Bedrock AgentCore 及其评估功能构建了生产级多智能体系统的连续质量评估框架。该框架旨在解决智能体静默失败及输出错误数据的问题,并通过持续监控、根因追踪和自动化防御确保企业级大规模部署下的数据准确性与可靠性。
Neuralwatt 联合创始人兼 CEO Chad Gibson 撰文分析了智能体框架(harness)如何通过提示词构造影响大模型服务的 KV 缓存命中率与能耗。研究发现,框架对已发送内容的微小修改会导致严重的缓存失效,使预填充工作量和能耗成倍增加,而通过保持提示词前缀稳定、将状态变更追加到末尾等方式可以有效避免这种浪费。
Cursor 推出 Environments API beta,支持以编程方式创建和管理云端智能体环境,包括代码库克隆与 environment.json 配置。
本文将线性层、MLP 和自注意力机制统一建模为联想记忆存储器,通过分析干扰与信号比(interference-to-signal ratio)推导了各类架构的容量极限。研究表明,从基础的外积存储、最优线性存储、带有不同激活函数的 MLP 到自注意力机制,模型的记忆容量从线性增长逐步提升至多项式甚至指数级。文章最后还讨论了长文本下通过对数缩放注意力权重来容纳海量键值对的方法。
Black Forest Labs 发布 FLUX 3 Image Klein,这是一个拥有 5.6B 参数的开源文生图、图像编辑和多参考图生成模型。该模型支持原生 4K 生成、像素级编辑和边界框控制,提供用于微调的基础模型及用于低延迟生成的蒸馏模型,在消费级显卡上可实现高效运行。