#安全/对齐

OpenAI 增强前沿模型训练环境的安全性与红队测试机制

OpenAI 增强了内部前沿模型训练和评估的容器化隔离机制，并使用最强模型对基础设施进行了大规模红队测试。研究人员实施了无互联网访问政策、构建了离线网页世界，并在修复发现的漏洞后于 10 月 1 日恢复了前沿模型的强化学习训练和内部推理。

OpenAI 与波兰 NASK 达成合作以推进 AI 安全研究

OpenAI 与波兰国家研究机构 NASK 签署协议，双方将合作开展 AI 安全、安全防护及技术研究。双方将结合研究专长与技术能力，评估日益强大的 AI 系统、识别潜在漏洞并增强防护措施。此前该机构旗下的 CERT Polska 已利用 OpenAI 模型发现了 MikroTik RouterOS 中的六个漏洞。

AWS PrivateLink 如何实现企业网络与 Amazon Quick 的安全私有连接

AWS 演示了如何通过 AWS PrivateLink 和 VPC 端点将企业私有网络与 Amazon Quick 安全连接，避免流量暴露于公共互联网。文章详细介绍了用户端流量与数据获取流量的双路径架构，并给出了配置私有连接的完整步骤与前置条件。

OpenAI 发布前沿 AI 民主化治理第二部分：赋能网络防御者

OpenAI 发布赋能网络防御者的前沿 AI 治理蓝图，以应对 AI 对网络安全在速度、规模和经济效益上的改变。该蓝图针对政府和行业提出三项具体提案：加强前沿 AI 的安全与保障、在智能时代实现网络安全现代化，以及建设具有韧性和适应力的公共机构。

AWS 推出 Trust in Depth 框架，赋予 AI 智能体更多自主权

AWS 推出 Trust in Depth 安全治理框架，通过范围界定、身份识别、边界限制和持续观测四层机制，结合自动化推理在保证安全的前提下赋予 AI 智能体更高自主权。该框架整合了 Amazon Bedrock AgentCore、Bedrock Guardrails、Agent Registry 及开源沙箱 Strands Box 等工具，用于在生产环境中实现策略检查与权限控制。

Google DeepMind 与新加坡政府合作推出端侧防诈骗 AI 模型

Google DeepMind 与新加坡政府科技局合作推出了一款专为端侧运行优化的轻量级防诈骗 AI 模型，旨在保护公民隐私的同时打击复杂的社会工程学诈骗。该模型基于轻量级 Gemma 模型微调，采用两阶段处理流水线，在设备本地分析对话模式并在检测到操纵意图时触发实时警告。

Google DeepMind 发布 Gemini 4 Argon 模型

Google DeepMind 发布 Gemini 4 Argon 模型，该模型在编码、金融、网络安全等复杂任务中表现出前沿能力，并已在内部及 Fairwind Program 中用于漏洞扫描。为应对滥用与对齐风险，该模型引入了三层实时保护机制、自动化失调监控及增强的提示词注入防御，在网络攻击模拟及代码基准测试中展现了显著的安全性提升。

同一件事，精选收录的是《Google 发布 Gemini 4 Argon 模型》

Google 发布《智能体隐私与安全中的开放与涌现问题：语境视角》研讨会报告

Google 发布了由 50 多位学术与行业专家共同撰写的《智能体隐私与安全中的开放与涌现问题：语境视角》报告，探讨了自主智能体在隐私保护与安全防御方面的核心挑战。

Google DeepMind 发布 SynthID Bio：为 AI 生成的生物序列与结构添加水印

Google DeepMind 推出 SynthID Bio，这是一种专门用于合成生物学的水印技术，可在不影响蛋白质生物功能的前提下，将不可见的数字签名嵌入 AI 设计的蛋白质序列及 3D 结构中。该技术通过调整氨基酸选择和原子坐标实现溯源，旨在加强生物安全并确保科学数据的完整性，目前已开源相关代码、实验数据及模型权重。

Cloudflare 如何利用前沿 AI 模型测试 WAF 安全性

Cloudflare 构建了一套基于前沿 AI 模型的动态 WAF 测试系统，通过模拟黑客行为对 WAF 进行压力测试。该系统在授权的客户暂存环境中进行了 1,107 次攻击尝试，涵盖 XSS、SQLi、CMDi、SSRF、LFI 及 Log4j 等六大攻击类别。测试结果显示，绝大多数攻击被 Cloudflare WAF 成功拦截，未被拦截的请求则被用于创建新的检测规则，以强化整体安全防护能力。