反向游戏理论如何约束强大 AI 模型

一种新方法“反向游戏理论”旨在为强大AI模型创造激励，使遵循规则成为最理性的选择。随着AI模型能力的提升，安全研究人员正在努力确保它们“对齐”于人类愿望，以防止 rogue 代理违法。

2026-11-03MMIT Tech Reviewtechnologyreview.com媒体