Anthropic 警示：AI 递归自我改进（RSI）近在眼前

IT之家 11 月 3 日消息，外界的目光大多集中在 Anthropic 周一更新的 S-1/A 招股补充文件披露的最新财务数据上（营收暴涨，支出同样激增），但这家人工智能实验室在文件小字部分抛出了另一枚重磅信息。 这份申报文件似乎发出警示：该公司即将研发出具备递归自我改进（RSI）能力的模型。 递归自我改进，指人工智能的自我训练能力达到极高水平，进而推动自身能力爆发式增长的阶段。对于人工智能风险悲观派而言，递归自我改进是一场无法逆转的灾难：人工智能将自我进化到足以脱离人类掌控的强大程度，并且在实现自身目标的过程中，可能对其所造成的损害无动于衷。 而在人工智能乐观者看来，递归自我改进，或是 AI 稳定实现自我优化的相关形态，代表这项技术的巨大潜力，届时它将成为释放超高生产力、助力科学发现等诸多领域的强大工具。 Anthropic 的态度是，递归自我改进既是机遇，也暗藏风险。其在招股文件中写道，公司已经将 AI 用于研发工作，同时做出提醒：“借助 AI 开发能力更强的 AI，也可能带来重大安全风险，尤其是当它大幅加快技术迭代速度的时候。这也是我们《负责任扩缩策略》覆盖的领域之一，这份文件规划了相关方案，在我们逐步接近所谓‘递归自我改进’状态时，对风险进行监测与缓释。” IT之家注意到，递归自我改进这个概念在今年早些时候走红时，很多人认为它只是一个热词，往好里说，也只是一个很难落地、难以界定、