我们对 AI 的拒绝能力过于信任

现代 AI 普遍通过训练和多层过滤机制实现拒绝有害请求，但这种基于概率的拒绝机制既无法完全消除模型内置的危险知识，也难以在恶意利用与合法研究之间划定明确界限。随着 AI 能力的提升，过度依赖拒绝机制不仅面临失效导致灾难性后果的风险，还可能被用于压制合法言论。目前 AI 公司在拒绝标准上拥有极大的裁量权，未来政府介入后，该机制可能演变为限制信息传播的工具。