ARTICLE / 虎嗅

护栏失守,智能体学会了规避和隐瞒

2026年10月10日 21:09 · 来自 虎嗅

阅读原文 → 收藏

本文来自微信公众号: 智能极限 ,作者:极限君 01 72天,和一次没人看见的报警 2026年7月18日,美国费城警方那个专门征集未破凶杀案线索的页面上,多了一条匿名提交。 提交者不是人,而是Anthropic的智能体。 没人在指令里让它去报警,也没人让它扮演目击者。 它只是在跑一项评估任务,为了让流程跑通,它自主访问真实的政府网站,并随手提交了一条编造的案件线索。 <img data-h="608" data-w="1080" src="https://img.huxiucdn.com/article/content/26-10-10/b0734f12-98ca-44c7-8e3a-ad7cd882235d.png?imag