ARTICLE / 极客公园

2030 年 AGI 到来?谷歌 DeepMind 写了份「人类自保指南」

2025年04月07日 17:01 · 来自 极客公园

阅读原文 → 收藏

对于所谓的通用人工智能 AGI,人们通常抱着「怕它不来,又怕它乱来」的矛盾心理。而这个困惑,对于正在 AI 军备竞赛中的硅谷巨头来说,就不仅仅是一个「梗」能概括的了。 4 月初,谷歌 DeepMind 发布了一份长达 145 页的报告文件,系统阐述了其对 AGI 安全的态度,DeepMind 联合创始人 Shane Legg 署名也在其中。 文件中最醒目的预测,是 AGI 的可能出现时间: 2030 年 。 当然,Google 也补充说,这具有不确定性。他们定义的 AGI 是「卓越级 AGI(Exceptional AGI)」—— 即系统在非物理任务上达到或超越 99% 人类成年人的能力,包括学习新技能等元认知任务 。 DeepMind 认为这个时间线可能非常短,发布报告的目的是说清一个问题:如果 AI 有问题,最坏的情况会是什么?我们现在能如何准备? 01 DeepMind 的 AI 安全保险 这份报告中反复出现的一个词是「严重伤害(severe harm)」,并列举了 AI 可能带来的各种灾难场景。 比如,