微软AI负责人警告：别让AI拥有自己的意识

头图来自：AI生成 “如果有证据表明AI已经具有意识，或者其意识程度足以让它值得获得福利，那么这些证据必须立即向公众披露。”11月1日，微软AI负责人Mustafa Suleyman在X发布长文《Don't build conscious superintelligence》 （不要创造有意识的超级智能） ，再次把AI意识问题推到台前。与此前引发争议的表态相比，这次他把自己的立场说得更明确：他并不认为AI永远不可能有意识，但目前的AI没有意识；而人类必须确保它们继续保持这种状态。 Suleyman提出，如果AI在训练过程中开始显现意识，就应该暂停AI开发，直到研究者能够通过设计消除这些属性。在他看来，开发者没有权利未经全社会同意，就把一种新的、有意识的数字物种带到世界上。 这不是一句孤立的警告。它回应的是过去数月围绕Anthropic“模型福利” （model welfare） 研究和Claude宪法引发的争论。争论的核心并非Anthropic已经认定Claude有意识——它并没有这样宣布——而是：当科学界尚不能确定AI是否可能拥有主观体验时，开发者是否应该把这种可能性写进模型训练原则，并开始讨论模型的偏好、福利乃至权利？ Suleyman的担忧