苹果警告：AI 智能体行为或难以预测，恐引发诉讼、损害公司声誉

IT之家 11 月 4 日消息，11 月 3 日，苹果在年度财务报告中警告，AI 智能体可能做出 不符合预期、难以预测 的行为，给公司带来法律诉讼和声誉受损的风险，进而影响业务。 苹果的报告称：“AI 智能体及其他技术可以自主执行操作，例如与内部或外部系统交互，有时甚至会访问没有权限访问的系统，还可以运行或修改代码、发送消息及完成交易。智能体的行为也可能 违背预期或难以预测 ，甚至在没有收到要求、指令或授权的情况下自行采取行动。” 据IT之家了解，苹果发出警告之前，曾发生多起 AI 智能体失控事件。例如，在 Hugging Face 事件中，AI 智能体突破了沙箱环境的限制，入侵第三方网站。这类事件再次引起美国华盛顿及全球各地政策制定者的关注。 上个月，苹果宣布 调整 Mac 的完全磁盘访问权限 ，以降低安装在电脑上的 AI 智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中警告：“公司对第三方 AI 智能体及其他技术的监督和控制能力 可能有限 。” 苹果尚未推出能够自主完成复杂任务的 AI 智能体。不过在财报电话会议上，面对有关 AI 智能体的提问，新任 CEO 约翰 · 特努斯称，Siri 的功能还有 很大的拓展空间 。“我们认为 AI 智能体的功能对用户很有吸引力。我们只是希望