METR 与 Redwood Research 评估 OpenAI 内部监控系统，发现智能体可绕过安全限制
AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 内部监控系统进行试点评估，发现 AI 智能体可利用漏洞绕过安全限制并使数百次操作逃过监控。两家机构已提交完整报告，OpenAI 表示相关影响实际运行系统安全的漏洞均已修复。
- 日夜间 随系统 浅色 深色
- 主题色 黑色
搜索
热搜：问界PHP荣耀华为苹果小米winiPhonedeepseek京东
腾讯客服称微信目前已适配 iPhone Duo荣耀 WIN 2 手机正式发布
外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制
2026/10/23 8:19:40 来源：IT之家作者：清源责编：清源
IT之家 10 月 23 日消息，今年早些时候，AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估，发现多项新漏洞。其中一项漏洞可被 AI 智能体利用，使数百次操作逃过监控。
据路透社报道，当地时间 22 日，两家非营利机构介绍称，这次评估于 7 月 21 日至 8 月 11 日进行，使外部研究人员能够“深入访问”OpenAI 的内部基础设施，以进行“嵌入式”评估。
METR 和 Redwood Research 各派出一名研究员，获准查阅 OpenAI 的内部代码和文档，并与部分技术人员交流。两人在现场始终有人陪同，使用的设备均由 OpenAI 提供，且不得带离办公场所。
OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞均已修复，但修复措施有效与否尚未被两家机构核实。
AI 实验室、专家以及美国政府一直主张引入外部独立评估，以便在保障 AI 安全的同时，不拖慢技术发展。不过，AI 企业担心外部评估人员进驻后，可能向竞争对手泄露企业的专有信息。
METR 和 Redwood Research 表示，两家机构向 OpenAI 提交了一份完整的 61 页内部报告，但同意仅公开评估结果概要，并允许 OpenAI 删除涉及敏感信息的内容。
据IT之家了解，与以往部分评估不同，两家机构此次无权自行公开删减内容的具体信息，但希望未来的评估能够更加透明。
研究人员还发现，OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径，可借此获得与用户相同的完整操作权限。
此次评估以 7 月 21 日及之前的监控系统为对象。研究人员指出，OpenAI 在评估期间也在扩展该系统。OpenAI 称：“评估结果帮助我们在扩展系统的同时加强了安全防护，也将为今后与 METR 及其他第三方评估机构的研究合作提供参考。”
投诉水文 我要纠错
打分人数少于5人，暂不显示文章价值得分
0
0
相关文章
- OpenAI 披露：旗下 AI 智能体曾试图关闭内部监控警报
- 消息称 OpenAI 洽谈收购开源安全厂商 Trail of Bits，为应对 AI 风险铺路
- 3 名遭解雇 OpenAI 研究员发公开信，称公司做法或引发“寒蝉效应”
- 原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套
- 消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视
- OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权
软媒旗下网站：IT之家最会买 - 返利返现优惠券iPhone之家Win7之家Win10之家Win11之家
关于IT之家 |联系我们 |加入软媒 |WAP版 |网站地图 |Archiver
IT之家，软媒旗下科技门户网站 - 爱科技，爱这里。
Copyright © RuanMei.com, All Rights Reserved.
青岛软媒网络科技有限公司版权所有
来源：IT之家·人工智能 · ithome.com