一份秘密草案背后，AI巨头的野心藏不住了

出品｜虎嗅ESG组 作者｜陈玉立 头图｜视觉中国 本文是#ESG进步观察#系列第176篇文章 本次观察关键词：人工智能 10月17日，Politico爆出一条新闻——Anthropic一直在私下接触美国国会议员，并向他们递交一份由公司起草的前沿AI安全法案草案（以下简称“草案”）。 草案给政府叫停模型设了三道闸门：风险必须“可预见且迫在眉睫”，可能造成超过10亿美元损失，或者导致50人以上死亡、重伤，而且风险来源还得是生物武器、模型失控、网络攻击三类之一。三个条件同时满足，商务部才能去找联邦法官申请叫停。 有意思的是，回溯历史，公开披露的AI安全事故里没有一起够得上这个门槛。 这项草案看似给了联邦政府暂停模型的权力，但把这项权力塞进了一条又窄、又长、又高度程序化的管