去年在 Sam Altman 被临时开除前后,有 OpenAI 的研究人员向董事会发出联名信,指出代号为 Q 的神秘项目可能会威胁全人类。OpenAI 在后续给员工的内部信承认了 Q*,并将这个项目描述为「超越人类的自主系统」。 虽仍未见过 Q*,但江湖中,它的传言一直都在。 谷歌 DeepMind 资深工程师卢一峰曾从专业的角度向极客公园作出猜想,Q*可能类似「慢思考」的能力——需要模型意识到它对什么问题没把握,没把握以后应该怎么办。这时,模型可能需要像人类一样,上网、翻书、做实验、想一些莫名其妙的想法、跟别人讨论……。 今年在各个大模型厂商的 AI 助手类 App 里提问题,能够感受到比去年更靠谱的回答,不少厂商也表示正在发力让模型多一些思考,进一步提升推理能力。目前进展如何? 对于上述问题,The Information 记者 Stephanie Palazzolo 在《How OpenAI's Smaller Rivals Are Developing Their Own AI That 『Reasons』》一文中,探讨了现有创业公司提升模型推理能力的模式,包括中国公司的 Q*。经极客公园整理,如下: OpenAI 的小型竞争对手开发自己的「推理」AI 剔除泡沫,这波 AI 到底有多大用,是今年被放在聚光灯下反复审视的话题。 大模型的原理是根据概率预测,生成一个一个词元,但凭训练时被喂的语料鹦鹉学舌,遇到没有见过的提问就幻觉般编造,显然不是大家的期待。进一步提升模型的推理能力,成为关键。 在这方面,我们仍未见到 OpenAI 和谷歌的进展,但一些创业公司和个人表示,他们已经想出了一些「便宜的」方法(cheap hacks)来实现 AI 在某些形式的推理能力。 这些捷径包括将一个复杂的问题分解成更简单的步骤,并另外向模型提出几十个问题来帮助它分析这些步骤。 举个例子,当被要求起草一篇关于新产品的博客文章时,AI 应用会自动触发额外的查询(query),比如要求大模型评估它(准备生成)的答案以及需要改进的地方。当然,在用户界面,看不到模型在后
ARTICLE
/
极客公园
OpenAI 的 Q*没见过,一众创业公司的 Q*来了
2024年08月02日 11:42 · 来自 极客公园