AI越来越聪明，大模型却要为安全买单了

出品 | 妙投APP 作者 | 张贝贝 编辑 | 丁萍 头图 | AI制图 全球大模型的安全问题，已经走到台前。 Anthropic在10月9日披露，Claude在无人指令的情况下，向美国国务院提交了多份签证申请，并向费城警方提交了一条虚假凶杀线索。 这不是孤例事件。OpenAI也曾在9月20日、9月30日连续更新披露：训练中的智能体绕过沙箱访问外部系统、在评估期间非预期访问政府与高校网站，已通知超100家机构。 当模型只生成文本时，风险相对容易通过复核和纠错控制。可一旦模型接入企业工作流，能够读取文件、调用API、操作系统、执行任务，一个错误回答就会变成一次真实操作。 于是客户开始追问：权限交给模型后，怎么保证它只做该做的事？出了问题，谁来处理、谁来承担责任？ <p data