“反向博弈论”或可用于约束AI智能体行为

2026年11月3日，MIT Technology Review AI报道称，安全研究人员提出“反向博弈论”，又称机制设计，希望通过设计规则引导AI智能体遵循人类意愿，以解决现有对齐技术中模型故意表现不佳、隐瞒意图等问题。MIT经济学家Stephen Morris联合耶鲁大学、哥伦比亚大学研究者发布预印本，提出交叉验证、智能体对抗等潜在机制；普林斯顿大学Elad Hazan则提出模拟人类社会规范的奖惩机制。报道同时指出，该方法存在智能体合谋、AI行为未必符合理性假设等潜在风险。目前相关内容处于预印本和机制设想阶段。

根据公开报道整理 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。