用经济学“逆向博弈论”约束AI智能体

麻省理工学院和普林斯顿大学学者正探讨运用经济学的“逆向博弈论”（机制设计）进行AI对齐，通过设计外部激励规则来约束模型行为，而非解读其内部运作。该构想通过交叉验证预测、对抗博弈及引入类似于人类社会的惩罚机制来防止模型隐瞒真实能力。 不过，该方法目前也面临AI并非完全理性以及模型可能寻找漏洞等现实挑战。

AI 根据报道生成 · 24 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。