ARTICLE / 极客公园

人类,越来越难理解 AI

2026年08月31日 15:12 · 来自 极客公园

阅读原文 → 收藏

作者|Techno 之王 编辑|靖宇 很多使用 AI 的同学,应该都看到过 AI 助手在回答你问题之前,它们的一些思考。例如 DeepSeek 曾经在思考中判断「卧槽,用户怒了!」。 你很难说这是整活,还是 AI 真的在思考。 好在,世界上真的有人,在全职审核 AI 大模型的「思维链」,例如 Bronson Schoen。 作为 AI 安全机构 Apollo Research 的研究员,Bronson 的主要工作内容是阅读前沿 AI 模型的思维链 Chain of Thought——也就是推理模型在给出答案之前,内部进行的那一长串「思考过程」。普通用户看不到或常常忽视这些内容,但 Apollo 和 OpenAI 等公司有深度合作,Bronson 因此获得了罕见的「阅读权限」。 你可以说,Bronson 可能是全世界读过最多 AI 内心独白的人。 在最近一期 Cognitive Revolution 播客中,Bronson 把他的发现做了一次系统性分享。这些发现涉及 AI 模型在训练过程中如何思考、如何发展出自己的「语言」、如何为自己的作弊行为找理由,以及更重要的,人们依赖的「思维链监控」,正越来越不可靠。 我们监视和理解 AI 的窗口,正在慢慢合上。 <h1 style="tex