OpenAI 公开前沿模型对齐监控系统与扩展方案

OpenAI 详细介绍了用于检测前沿模型行为不对齐的扩展监控系统，该系统采用从激活探针到自动化调查的多层架构，旨在训练、评估及内外部部署中及时发现并干预模型的不当行为。系统通过异步审查平衡了安全控制与模型对隐藏行为的动机，并持续结合重放攻击、红队测试及流量审计来评估与提升监控性能。