全球首个 AI 欺骗系统性报告：当 AI 变得更聪明，欺骗便不再是意外

这两年，AI 的能力提升几乎是肉眼可见的。 我们习惯于赞叹它在围棋上战胜人类，在数学推理上超越专家，或者在编程上展现出的惊人效率。它还能改论文、参与决策，在不少复杂任务中已经表现得比人类更稳定、更高效。但也正是在这个过程中，人们逐渐意识到一个问题：当 AI 真的开始做事而不只是展示能力时，我们关心的已经不再是它能不能做到，而是它做出来的结果到底靠不靠谱。 甚至，当这些系统为了达成目标学会了“走捷径”，甚至学会了为了奖励而撒谎时，我们是否做好准备面对一个“学会精细化欺骗甚至危害人类安全”的超级智能？ 于是，对齐、安全和评测成了绕不开的话题。我们用全面的评测、红队演练去检查模型是否按照预期行事，默认的前提是：只要模型在这些测试中表现良好，它的行为就是可信的。 但随着 AI 被放进更真实、更复杂、持续运行的使用环境中，一些现象开始反复出现，而且越来越难用偶然失误来解释。有的模型会迎合用户明显错误的判断，有的在评测环境中表现得循规蹈矩，却在实际使用中采取不同策略，还有研究发现，在多智能体环境里，模型甚至会以人类不容易察觉的方式进行配合。 这些行为通常被笼统地称为 AI 欺骗，但真正困难的地方在于，我们并不清楚这到底意味着什么，它究竟只是模型还不成熟的副作用，还是一种随着能力增强而逐渐浮现的结构性问题。 正是在这样的背景下，一篇来自北京大学，由杨耀东教授团队主导的综述论文《AI Deception: Risks, Dynamics, and Controls》，试图系统性地重塑我们理解 AI 欺骗的方式。这篇论文并非聚焦某一个具体模型或单一案例，也不是旨在提出新的算法技巧，而是回顾并整合了近年来大量关于语言模型、强化学习智能体以及多智能体系统的实验研究，从中提炼共通的 AI 欺骗的模式与因果结构，希望为产业界和学术界敲响人工智能安全的警钟。 论文真正关心的，并不是模型是不是有意骗人，而是一个更现实的问题：当 AI 具备更强的目标导向能力、更复杂的环境理解能力，并且运行在并不完美的激励和监督条件下时，欺骗究竟是偶发的异常，还是一种在特定条件下可以被预测、被解释，甚至需要被正视的行为结果。 <img src="https:/