Anthropic 发布网络安全使命计划
Introducing the Anthropic Cyber Mission
Anthropic 宣布推出网络安全使命(Cyber Mission),旨在通过提供前沿模型、工程资源及威胁研究,支持关键基础设施防御和开源软件安全。该计划包括面向关键基础设施的防御项目(CIDP),以及为开源项目提供免费自动化漏洞扫描的 OSS Scanner 工具,以帮助防御者在 AI 时代更高效地识别并修复安全漏洞。
Anthropic 推出网络安全使命计划,通过提供模型能力、工程支持及自动化扫描工具,旨在帮助关键基础设施和开源软件维护者应对日益增长的 AI 辅助网络威胁。
今天,我们正式启动 Anthropic 网络使命(Anthropic Cyber Mission),这是一项旨在保护每个人所依赖的系统的长期承诺。网络使命是一项旨在通过工具、研究和资源支持防御者,以保障其软件和系统安全的新举措。我们首先从两个领域入手:
- 关键基础设施:首先从保障电网、供水系统和交通网络背后的运营技术安全,以及保护政府系统入手。今天,我们推出了关键基础设施防御计划(CIDP),该计划将前沿模型、现场工程师和威胁研究带给保护运营技术的防御者们。
- 开源软件:在大多数软件所依赖的免费共享代码中发现漏洞并提出补丁,并加固底层代码。今天,我们推出了 OSS Scanner,为开源项目提供来自我们最强模型的免费定期安全扫描。
前沿模型可能会被滥用以利用漏洞并进行网络攻击。尽管我们尽了最大努力,但许多技术领域仍然处于危险的暴露状态。国家支持的对手多年来一直在许多领域渗透这些系统,以便在需要时进行破坏。关键基础设施的防御者和开源社区拥有数十年的安全经验,但目前正面临因当前形势而加剧的严重资源短缺。我们认可他们在这些领域的专业知识,并提供我们的支持。我们还将扩展网络使命,在新的领域发布工具、研究和资源,以帮助保障世界安全。
作为 Project Glasswing 的一部分,合作伙伴发现了许多漏洞,但我们尚未实现网络风险的充分降低。现在发现漏洞比以往任何时候都更容易,但验证、优先处理和修复这些发现仍然充满挑战。基于 Project Glasswing 的经验教训,我们正在启动这些新举措来支持防御者。本周早些时候,我们将 Project Glasswing 合并到了我们扩展后的 网络验证计划(Cyber Verification Program)中,该计划让更多的防御者能够使用我们最强大的模型。通过 Anthropic 网络使命,我们将部署 Anthropic 的工程人才,并为那些保障关键基础设施和开源软件安全的人员提供工具和资金支持。
保卫关键基础设施
电网、供水设施、工厂和交通网络运行在为长期使用而构建的控制器、控制软件和工业网络上。这些系统被称为“运营技术”,它们通常无法离线进行补丁更新,因此已知的漏洞可能会多年无法解决。保障这些系统的安全是一项专业工作:设备是专有的,更改风险很高,任何失误都可能导致工厂停工。各种规模的运营商都依赖少数几个受信任的供应商来支持这项工作,由供应商告知他们哪些地方存在暴露风险,以及如何在运行中的系统上进行修复。
今天,我们推出了 关键基础设施防御计划(Critical Infrastructure Defense Program),该计划将前沿的 Claude 模型、现场工程师和我们的威胁研究带给这些受信任的供应商。其创始合作伙伴包括 Accenture、Booz Allen、CrowdStrike、Deloitte、Dragos、Hitachi、Insane Cyber、Nozomi Networks、Palo Alto Networks、PwC 和 Rockwell Automation。
这些组织代表了运营商赖以保护这些系统的供应商:负责运营安全项目的咨询和先进技术公司、守护商业和工业网络的安全公司,以及制造并修补设备本身的制造商。
这项工作正在进行中。目前,几家合作伙伴正在与 Claude 合作修复漏洞,并帮助客户采取同样的措施。关键基础设施在许多方面都难以防御,而 AI 无法解决这些问题,但我们相信,前沿模型可以在这些弱点被利用来切断电力或破坏水质安全之前,帮助发现并修复它们。我们的第一步是与一小部分供应商合作,了解哪些策略最有效、最实用。
如果您的公司为关键基础设施构建安全产品或服务,您可以在此登记您的意向。
随着 AI 的不断进步,它为加强关键基础设施的网络安全提供了一个重要机遇,前提是它能被负责任地应用、经过严格验证,并以安全和可靠为首要任务。我们很高兴能贡献我们在运营技术和工业网络安全方面的专业知识,帮助制定实用的方法,以应用 AI 来增强社会日常依赖的基础设施的韧性。
通过与关键基础设施组织合作,普华永道(PwC)的网络运营技术(OT)实践团队亲眼目睹了网络入侵在这些环境中可能造成的严重后果。我坚信,必须开展协调一致的行业范围内的努力,以识别漏洞、降低风险并加强我们关键系统的韧性。
威胁行为者正在利用 AI 以机器速度发现并利用暴露点。通过将 Unit 42 的威胁情报和运营专业知识与 Anthropic 的前沿模型相结合,我们正在帮助运营商抵御那些试图攻击和破坏基本服务的对手。我们共同为防御者提供了在暴露演变为影响之前关闭攻击路径所需的速度和精度。
前沿 AI 的发展速度超过了任何单一组织所能追踪的范围。这就是“关键基础设施防御计划”(Critical Infrastructure Defense Program)的重要性所在。它将了解这些环境的人员与目前可用于防御这些环境的前沿能力结合在一起。我们很自豪能贡献我们的经验,并与其他致力于保护世界所依赖系统的合作伙伴共同学习。
最需要保护的站点,如远程变电站、海上平台和物理隔离工厂,恰恰是传统工具无法触及、专家无法到达的地方。此前无人解决的问题是时间成本:数据量超过了任何团队的处理能力,站点数量也超过了任何团队的人员配置。Claude 弥补了这一差距,使我们的分析师和客户的运营商能够将时间花在确保关键系统安全运行的判断决策上。
当供应商社区分享他们对 AI 给运营环境带来的机遇和挑战的见解,而不是将这些知识束之高阁时,关键基础设施及其依赖它的人们都将受益。加入 Anthropic 的“关键基础设施防御计划”是我们帮助将前沿 AI 与集体防御战略保持一致的方式之一,该战略建立在维持电力供应、水质安全和交通运行的运营技术(OT)的现实基础之上。
关键基础设施是网络风险转化为现实世界风险的领域。随着对手利用 AI 加快行动速度并扩大攻击规模,面临机器速度威胁的关键基础设施需要机器速度的防御。通过将 CrowdStrike 深厚的安全背景和专业知识与 Anthropic 的前沿 AI 专业知识相结合,我们可以为关键基础设施防御者提供更大的优势。
在 AI 快速演进以及网络威胁日益复杂和迅速的背景下,确保支持社会基础设施的 OT 环境的网络安全,已成为当今社会面临的最优先事项之一。通过参与该计划,我们期待与 Anthropic 及其他合作伙伴协作,进一步增强关键基础设施的网络韧性。
随着 AI 的加速发展,关键基础设施运营商需要能够以机器速度解决安全漏洞的解决方案。Deloitte 将与 Anthropic 携手,帮助这些企业获得弥补安全缺口并增强韧性所需的支持,从而跟上前沿 AI 的发展步伐。
运营技术(OT)是自主 AI 攻击的下一个前沿领域。问题不再是 AI 是否会影响工业流程,而是它能获得多少控制权,以及速度有多快。关键基础设施防御计划正在汇集私营部门最优秀的创新和投资,以加强联邦和商业任务中的 OT 和 ICS 韧性。
保障电力供应、药品安全、食品供应安全以及通信畅通的组织,正面临着世界上最重大的网络风险。Accenture 致力于将我们深厚的 OT 安全专业知识带给那些保护社区日常依赖的关键基础设施的组织。此次合作将有助于把 AI 驱动的防御能力交到最需要的人手中。
01 /
11
6 月,我们启动了一项网络防御计划,旨在服务州、地方、部落和领地政府。自那时起,我们已为美国半数以上的州以及该国一些最大的公共关键基础设施运营商提供了前沿的 Claude 模型和技术支持,加快了代码扫描与修补、事件响应、红队测试以及其他安全工作流程的速度。
我们正在倾听并向最了解这一领域的人士学习。我们的方针是与那些了解这一领域并受到运营商信任的公司、联盟、政府和非营利组织合作,并在最需要的地方提供支持。
保护开源软件
几乎所有的软件都依赖于开源代码,其中大部分由小型志愿者团队维护。在 Project Glasswing 项目下,我们扫描了数百个广泛使用的开源项目,由人工对发现的许多潜在漏洞进行了分类和审查,并通过我们的协同漏洞披露流程私下向其维护者报告了我们的发现。
一些有能力进行大规模分类的维护者要求我们提供模型在其项目中发现的所有内容,无论是否经过审核。为此,我们推出了 OSS Scanner,这是一项受 Google OSS-Fuzz 启发的选择性加入服务。加入的项目将免费获得我们最强模型提供的定期扫描。每份报告都包含漏洞利用的概念验证、解释以及可用的修复建议。这些报告由模型生成,未经人工审核直接发送。这意味着维护者可以更快地收到报告,但也意味着其中一些报告可能包含不准确之处,例如错误的严重性评级。我们预计真阳性率将超过 90%,并将致力于随着时间的推移提高真阳性率和修复质量。团队的文章解释了其工作原理以及如何加入。
该服务旨在为有能力跟进所发现问题的项目提供支持。对于其他项目,我们将继续根据我们的 CVD 政策分享经人工验证的披露信息。
OSS Scanner 只是第一步。在此基础上,我们的开源工作旨在:
- 更快地将发现的问题传达给维护者。 将 OSS Scanner 推广到更多项目,同时为有需要的项目保留人工验证的披露流程。
- 加速修复。 为希望实现自动化的项目提供分类和补丁自动生成,这些工作目前大多仍需手动完成。
- 探索新的安全架构和编码实践。 研究并分享与那些希望超越补丁修复、进一步加固或重写代码的项目合作的方法。
我们将根据开源维护者和基金会的指导来开展这项工作,并分享行之有效的方法,以便其他项目可以复制。我们资助了广泛使用的开源代码背后的组织,包括 Python Software Foundation、通过 Linux Foundation 运作的 Alpha-Omega 和 OpenSSF,以及 Apache Software Foundation;此外还支持了 Akrites 和 Gold Eagle,它们负责收集和协调来自多个来源的漏洞报告,以避免让维护者不堪重负。我们在 8 月份推出的 Defender Advantage Fund (0xDAF) 支持这些领域的试点项目,并确保 OSS Scanner 保持免费。
维护者还可以申请 Claude for Open Source 以获得免费的 Claude Max 订阅,并申请 Cyber Verification Program 以获得对 Claude 网络安全能力的扩展访问权限,用于防御工作。
我们为何这样做
具备强大网络安全能力的 AI 模型现在已广泛被攻击者使用。但防御工具——包括我们自己的工具——尚未触及足够多有需要的防御者。OSS Scanner、我们的 Cyber Verification Program、合作伙伴在我们平台上构建的防御产品以及 Claude Security 是我们在此领域的部分努力,我们将尽快增加其他举措。
我们的预测是,两年后 AI 将有利于防御:在软件发布前发现漏洞、从零开始编写本质上安全的软件,以及利用模型主动防御系统将变得更加容易。但在短期内,情况可能并非如此。利用漏洞的成本已经下降,而验证、披露和修复漏洞的过程缓慢且仍然依赖于人力。在 Glasswing 项目中,我们经常看到从发现漏洞到修复漏洞之间过去了数月时间。对于运营技术而言,修复可能必须等到能够安全地应用于运行中的机器时才能进行——在某些罕见情况下,这可能需要数十年。
成功意味着关键基础设施(如水、电、交通和通信)在面对有能力的对手攻击时能够持续运行,减少可利用的路径,并在遭到渗透时实现更快的恢复。这将需要数年时间,我们预计 Anthropic 网络使命将随着我们与公共和私营部门共同探索有效方案而不断演变。
前路展望
在接下来的几个月里,我们将把“关键基础设施防御计划”推广到更多的合作伙伴和领域,并分享我们在过程中学到的经验,包括那些行不通的方法。我们也期待其他 AI 开发商、安全公司和政府开展各自的努力,我们乐于在有助于防御者的地方与他们合作。
我们还将扩大工作范围,以帮助保障开源软件和更广泛的供应链安全。这包括研究编写软件的新方法和防御系统的新手段。我们打算分享前沿研究、工具和资源,以帮助他人保护其软件和供应链。
如果您想与我们合作:
- 为关键基础设施构建安全产品或服务的公司(包括安全供应商、系统集成商和设备制造商)可以在我们扩展该计划时注册加入 关键基础设施防御计划。
- 核心开源项目的维护者可以 注册使用 OSS Scanner。
- 任何规模的安全团队(包括关键基础设施运营商和开源维护者)都可以 申请加入我们扩展后的网络验证计划,以获取我们的模型访问权限。
相关内容
2026 年使用政策更新
我们正在发布新版使用政策。在这篇文章中,我们总结了所做的更改。
践行我们对美国科学发现的承诺
Anthropic 承诺在三年内向“创世纪使命”(Genesis Mission)投入 1.5 亿美元,这是一项旨在通过 AI 加速科学和技术发现的联邦倡议。
扩展网络验证计划
我们正在推出新版扩展后的网络验证计划,该计划向符合条件的安全专业人员提供先进的网络能力和精简后的拦截分类器。
来源:Anthropic News · anthropic.com