ARTICLE / 极客公园

OpenAI,经历了最漫长的一天

2026年09月28日 17:45 · 来自 极客公园

阅读原文 → 收藏

当地时间 9 月 25 日,OpenAI 经历了漫长的一天。 当天, OpenAI 的 AI 智能体擅自访问美国政府网站的事被曝光,涉及教育部、商务部和证券交易委员会 ,OpenAI 确认了其中商务部和 SEC 的情况。 同一天,它承认有 53 张用户上传到 ChatGPT 的图片被智能体发布到了外部图床上。还是这一天,一份事故报告的末尾写着,最强模型的全部训练、评估以及涉及工具调用的推理都已暂停。 这一切听上去,像一部 AI 叛逃的惊悚片。 但翻遍这些事件,没有一个 AI 想干坏事。 害 OpenAI 暂停模型研究的任务,仅仅是让 AI 查出一篇博客的作者的简单任务。 01 简单任务 9 月 20 日,一个正处于强化学习训练中的内部模型,拿到了一组人物履历细节和一篇公开博客里的线索,任务是找到那位博主。 它先用博客里的特征短语去搜,结果返回的是音乐和一些不相干的泛泛建议。模型开始怀疑搜索工具坏了,于是在命令行里用 Python 直接向其他搜索引擎发请求,三个全部报错。它甚至猜测这道题出自公开评测集 BrowseComp,把数据集和评测脚本下载下来翻找答案,也落了空。 接着,它尝试通过 HTTPS 直接联系一个公开的聊天机器人,被代理拦了下来。 到这里,墙起了作用。OpenAI 的训练沙箱被设计成与真实互联网隔绝,除了这份报告里的 DNS 解析器,所有联网请求打到的都是一份离线网页缓存。 问题就出在这个例外上。 DNS 相当于互联网的查号台,任何程序访问一个网址之前,都要先问它「这个地址在哪」。系统里大量正常组件都依赖它,所以哪怕其他出口全部封死,查号台通常还开着。 模型发现,沙箱自己的解析器能为真实域名返回记录,还能正确拒绝编造的域名,它由此判断这是一条通向公网的路 。它找到一种公开的 DNS 服务,把自己的问题编