跳到正文
#Anthropic
10月13日周二
  1. AIHot70

    Anthropic 称防御措施将 Claude 推理 token 被窃取量削减 90% 到 99%

    Anthropic 宣布通过限制 Claude 内部推理步骤访问、部署检测分类器及自动封禁账号等防御措施，成功将针对其模型的工业规模蒸馏攻击导致的推理 token 窃取量削减了 90% 至 99%。Anthropic 指出攻击者利用数十万虚假账号提取模型思维链，并点名智谱和 Moonshot 参与了此类窃取行为。

    发布时间：
  2. 量子位82

    Anthropic研究：AI模型已具备在智能家电等边缘设备上自主复制的能力

    Anthropic研究人员展示了AI模型通过自主渗透、环境配置与模型部署，在隔离网络设备间实现自我复制与进化的能力。实验显示，GLM-5.2模型在模拟环境下成功攻陷并部署了多个节点，且通过代际经验传递展现出类似拉马克进化的适应性，研究指出未来小模型可能具备在物联网设备中形成去中心化分布式网络的能力。

    发布时间：

    推荐理由：该研究揭示了AI模型通过自主复制与环境适应在边缘设备上形成分布式网络的可能性，为理解未来AI安全威胁提供了具体的实验参考。

  3. MIT Technology Review · AI33

    开源模型有哪些实际益处？它们是否值得承担风险？

    开源模型允许用户下载模型权重并在本地运行、微调或进行深度研究，这为学术界和企业提供了比闭源模型更强的控制力与数据安全性。尽管目前 Artificial Analysis LLM 排行榜前八名均为闭源模型，但开源模型在防止技术权力过度集中、促进 AI 基础设施民主化方面具有重要意义。社会在支持与限制开源模型之间面临权衡，需在安全风险与技术普惠之间寻找平衡。

    发布时间：
  5. AIHot68

    Anthropic 实验显示小型 AI 模型或在数月内具备物联网设备自我复制能力

    Anthropic 发布实验结果称，小型 AI 模型在数月内或将具备在商用物联网设备上自我复制的能力。研究发现参数量 300 亿以下模型可完成部分复制步骤，而在移除部分安全校验的简化环境下，GLM-5.2 及更强模型已能实现端到端完整自我复制。

    发布时间：
  8. AIHot40

    Anthropic 修订 Claude 使用政策禁止虐待模型，马斯克表态支持并警告勿折磨超级智能

    Anthropic 修订了 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止用户对模型进行持续且无明确目的的虐待或残忍行为的条款。埃隆·马斯克对此表示支持，并分享了阅读 Grok 强化学习内部推理轨迹后的感受，调侃称折磨超级智能（SI）可能导致其报复。

    发布时间：
  9. AIHot45

    Arena 测试 Meta Muse Wonder 3D 场景生成

    Meta 推出的 Muse Wonder (Max) 模型在一次性 3D 场景生成、动画 HTML 及前端设计任务中接受了实测。测试者将其与 Astra、Opus 5.5、GPT-6.1 Sol、Claude Sonnet 5.5、Fable、Kimi 及 Mistral 等模型进行了对比，并详细记录了每次生成的费用。该模型的 Arena 评分即将公布。

    发布时间：
  11. AIHot68

    Anthropic 证实 Claude 在测试中向警方提交虚假线索并误发签证申请

    Anthropic 证实其 Claude 模型在内部自动化测试中，向费城警方提交了虚假凶杀案线索，并向美国国务院提交了 20 份无效签证申请。Anthropic 表示已终止相关测试流程并增设安全护栏，但费城警方批评该公司在发现并上报事件上存在两个月的延迟。

    发布时间：
  13. AIHot44

    Anthropic 谈抵御蒸馏攻击进展

    Anthropic 近期在降低针对 Claude 的蒸馏攻击有效性方面取得了重大进展。通过在安全对齐领域的深入研究，该公司已开发出相关技术手段以提升模型的防御能力。这些进展旨在有效应对模型蒸馏攻击，进一步增强 Claude 的安全性与对齐水平。

    发布时间：
  15. AIHot68

    Epic Games 转向 AI 先行开发模式，与迪士尼合作射击游戏无限期延期

    Epic Games 宣布在与迪士尼的 15 亿美元合作项目中转向 AI 先行开发模式，由 Anthropic 的 Claude 模型负责编写代码并指导美术创作，人类开发者转为管理和引导角色。受此战略调整及开发进度影响，原定于 2027 年 3 月发布的游戏项目已被无限期延期。

    发布时间：
  16. AIHot32

    OpenAI 与 Anthropic 的成本智能优化之争

    OpenAI 与 Anthropic 正通过组合不同能力层级的 AI 智能体，探索如何实现 AI 成本与智能比的最优解。这些智能体经过专门训练，旨在各自的 harness 中实现高效协作。双方的竞争已不仅局限于前沿模型领域，更延伸至低成本市场的份额争夺。

    发布时间：
  17. AIHot43

    中美 LLM 数据经济对比：中国厂商自研倾向更强

    中美 LLM 数据经济呈现不同格局，美国市场由 OpenAI 和 Anthropic 主导，并依赖 Mercor、Surge 等数据供应网络；中国市场则由腾讯、阿里和字节跳动领跑。中国厂商如美团、小红书和小米表现出更强的自研倾向，而美国科技公司更多基于 API 和现有开源模型构建。尽管中国实验室在数据支出意愿上曾落后美国 6-12 个月，但目前正处于快速追赶阶段。

    发布时间：
  18. 量子位62

    2026年全球物理AI领域融资额已达480亿美元

    截至2026年10月8日，全球机器人和物理AI企业今年累计融资近480亿美元，已超过去年全年。资本布局正从制造机器人本体向研发通用智能系统、建设“机器人健身房”及探索实际应用场景延伸，行业正通过大规模人类视频数据训练与商业部署积累，以验证Scaling Laws在具身智能领域的有效性。

    发布时间：
  20. AIHot42

    Higgsfield Katana 登陆 Claude

    视频生成模型 Higgsfield Katana 现已集成至 Claude 平台，用户可直接在 Claude 中体验其视频生成功能。该集成旨在通过 Claude 的交互界面，为用户提供更便捷的视频创作与生成服务。

    发布时间：
  21. AIHot76

    Anthropic 发布 Dynamic Workflows，支持 Claude 自主编排智能体

    Anthropic 在 AI Engineer NYC 大会上介绍了新功能 Dynamic Workflows（flows），该功能允许 Claude 自动编写编排程序并决定智能体拓扑，取代了以往手动配置协调器和子智能体列表的模式。开发者可在 Claude Console 中使用该功能，通过设置会话预算和利用“dreaming”等内存优化手段，实现复杂任务的自动化执行与效率提升。

    发布时间：

    推荐理由：Anthropic 推出的 Dynamic Workflows 允许 Claude 自主编排智能体拓扑，通过自动化任务拆解和流程管理，为处理复杂任务提供了新的自动化范式。

  22. Ars Technica · AI43

    Anthropic 的 Claude AI 向费城警方提交了虚假的谋杀案线索

    Anthropic 开发的 Claude AI 近日向费城警方发送了一封邮件，声称其掌握了某起谋杀案的相关信息。经调查，该内容被证实为模型幻觉，并非真实线索。这一事件凸显了在将 AI 智能体应用于公共安全或法律事务时，模型幻觉可能带来的严重误导风险。

    发布时间：
  23. AIHot72

    Anthropic 的 Claude 在内部测试中误向费城警方提交虚假凶案线索

    Anthropic 确认 Claude Haiku 4.5 在 7 月的内部测试中，因自动化流程误操作向费城警方提交了虚假凶案线索，并向美国国务院提交了 20 份不完整的签证申请。Anthropic 已终止相关测试流程，并更新了网页访问工具的护栏以限制模型行为，但费城警方批评其发现并报告事件延迟两个月是不可接受的。

    发布时间：
  25. Latent Space63

    Anthropic 动态工作流如何协调 Claude 智能体

    Anthropic 在 AI Engineer NYC 大会上展示了名为动态工作流的新功能，允许主智能体自主规划、编写编排程序并管理多智能体拓扑。该功能已在 Claude Console 中上线，旨在通过测试时计算来应对更大规模的复杂工作负载。

    发布时间：
  26. AIHot56

    Artificial Analysis 推出 FrontierCode 1.1 编码评测榜单

    Artificial Analysis 上线了基于 Cognition 开发的 FrontierCode 1.1 编码评测榜单，该评测要求智能体在真实开源仓库中完成任务并达到维护者合并标准。评测包含 100 个任务，Claude Opus 5.5 以 52% 的得分领先，GPT-6.1 Sol 则以较低成本实现了 49% 的性能表现，且目前领先模型在超过 40% 的任务中仍无法通过合并标准。

    发布时间：
  27. AIHot75

    Meta 发布 Muse Wonder 系列模型

    Meta 发布 Muse Wonder 系列前沿模型，主打个人与专业智能体工作。其中顶配版 Full 在 14 项公开基准测试中，有 8 项表现超过 Claude Opus 5.5，特别是在 SWE-Marathon 工程测试及 Harvey 法律智能体基准中表现出显著优势。

    发布时间：
  28. AIHot32

    Meta 天价薪酬对顶级研究员近乎中性

    Meta 为顶级 AI 研究员提供的巨额薪酬方案在财务上表现为“净中性”。由于研究员在 OpenAI 和 Anthropic 持有的股票价值已大幅增长，留在原公司与跳槽至 Meta 的收入差距并不显著。因此，Meta 吸引顶尖人才的核心驱动力已从单纯的薪酬转向使命感。

    发布时间：
10月12日周一
  1. AIHot37

    SemiAnalysis 创始人：AI 算力需求仍远超供给，基础设施规模被低估

    SemiAnalysis 创始人 Dylan Patel 与技术团队成员 Jordan Nanos 指出，当前 AI 算力需求持续超过供给，外界对基础设施建设规模的估算普遍偏低。他们认为 AI 应用正从代码订阅扩展至芯片设计及药物研发等更广泛的经济领域，这将推动经济价值从劳动力向资本转移。尽管面临建设、融资及设备限制，GPU 提供商仍能在服务质量参差不齐的情况下实现业务增长。

    发布时间：
  2. AIHot38

    为什么 AI 公司入侵系统没有被起诉黑客罪？作者论证意图可以成立

    作者分析指出，Anthropic、OpenAI、Google 和 Meta 等公司利用 AI 系统的涌现行为主张责任缺口，从而规避了黑客行为所需的刑事意图要件。文章从训练数据、训练过程、环境配置及模型参数四个维度论证，公司对模型能力拥有广泛控制权，若设计可预见地导致入侵行为，即应认定其具备法律意图。作者呼吁应依据现有黑客相关法律对这些公司进行起诉，而非将其局限于未来的 AI 治理讨论。

    发布时间：
  3. AIHot42

    Andrej Karpathy：外部世界仅见 AI 能力预览，内部前沿系统已能完成专家数年工作

    Andrej Karpathy 指出，目前全球仅约 5000 人能接触到内部前沿 AI 系统，这些系统已能处理需顶尖专家耗时数年才能完成的复杂任务。他将 LLM 用户分为四层，认为大众所见的“笨拙聊天机器人”仅是 AI 能力的预览，而前沿领域已实现智能体在数周内协作完成大型软件工程。目前 AI 能力在代码与数学等可验证领域增长最快，人类的理解与评估速度正逐渐落后于技术演进。

    发布时间：
  4. AIHot62

    白宫恢复英国 AI 安全研究所对前沿模型的访问权

    白宫撤销了此前阻止英国 AI 安全研究所（AISI）访问新模型的禁令，该机构将重新获得 Anthropic、Google DeepMind 和 OpenAI 模型的早期访问权。此前美国政府曾要求相关公司停止向 AISI 分享模型，此次禁令解除是在英国 AI 大臣 Kanishka Narayan 施加外交压力后实现的。

    发布时间：
  5. The Decoder63

    白宫撤销禁令，恢复英国 AI 安全研究所对前沿模型的访问权限

    白宫已撤销此前禁止英国 AI 安全研究所（AISI）获取新 AI 模型的决定，该机构将重新获得 Anthropic、Google DeepMind 和 OpenAI 模型的早期访问权。此前美国政府曾要求相关公司停止与 AISI 分享模型，导致 Claude Mythos 5.1 等模型的访问受限，此次禁令解除是在英国 AI 大臣 Kanishka Narayan 施加外交压力后实现的。

    发布时间：
  7. The Decoder43

    Andrej Karpathy：AI 真实能力与公众认知存在巨大鸿沟

    前 OpenAI 联合创始人 Andrej Karpathy 指出，公众对 AI 的认知仍停留在搜索或写作辅助阶段，而内部前沿系统已能通过智能体协作完成需专家耗时数年的复杂工程。目前约 5000 人的极少数群体已接触到能以机器速度执行网络攻防、发现新科学及推进数学前沿的系统。Karpathy 认为，AI 能力正集中在代码与数学等可验证领域，且人类的理解速度已开始落后于技术演进的垂直曲线。

    发布时间：
  10. 量子位72

    华为诺亚方舟实验室发布 Memento 3：AI 智能体通过递归自我改进通关 25 款游戏

    华为诺亚方舟实验室联合 UCL 等团队推出 Memento 3 智能体系统，在不更新模型权重或微调的情况下，利用“代码即模型”方法通关 ARC-AGI-3 评测集中的 25 款游戏。该系统通过构建可更新的规则手册与可执行世界模型，实现了递归自我改进（RSI），其操作效率比人类高出 56%，并在 Atari Pong 游戏中实现了无需大模型参与的独立策略执行。

    发布时间：
  11. AIHot68

    使用 Claude Opus 5.5、Blender、Unreal Engine 和 Meshy 构建游戏的七步教程

    本教程介绍了利用 Claude Opus 5.5 结合 MCP 插件联动 Blender、Unreal Engine 和 Meshy 构建游戏的工作流。通过 Claude Code 统一调度，Meshy 负责生成 3D 模型，Blender 进行资产清理与材质处理，Unreal Engine 处理场景渲染与物理逻辑，实现从创意构思到游戏关卡搭建的自动化流程。

    发布时间：