神秘代号Q*到底是什么？

今年早些时候，OpenAI的首席执行官Sam Altman在Reddit论坛上发表了一篇帖子，让科技界陷入疯狂：“AGI已在内部实现。”

AGI是通用人工智能（Artificial General Intelligence）的缩写——是人工智能研究的圣杯。从本质上讲，真正的AGI是一种类似人类大脑的智能，能够进行推理、创造性思维，甚至可能产生自我意识。

Altman发布实现AGI的消息惊天动地——其重要性就好比顶尖科学家发布 “核聚变成功了”，或者特朗普发布“我放弃参加选举”。

Altman后来表示，这个帖子只是开个玩笑。但围绕他最近下台的戏剧性故事，这一说法受到质疑。

有报道称，在Altman被解雇之前，OpenAI董事会得知一个重大突破。泄露的文件显示，这一突破与一个代号为Q*的新模型有关。

OpenAI究竟是否真的实现了AGI？Q*是什么，对人工智能的未来意味着什么？让我们一探究竟。

01.基础数学的重要性

关于Q*（读作Q-star）的大部分信息都基于路透社的报道。这家新闻媒体采访了OpenAI的几位匿名消息人士，并获得了有关这项所谓新突破的内部文件，其中包括公司首席科学家致董事会的一封秘密信函。

他们的报道显示，Q*在OpenAI内部引起了轩然大波，因为它能完成以前任何大型语言模型都做不到的事情：基础数学。

起初，这似乎并不是什么大不了的事。自20世纪50年代以来，简单的计算器就能够进行基本数学运算。但使用大型语言模型（或Q*可能使用的任何架构）实现这一里程碑，实际上是一个巨大的突破。

02.Q*与人类大脑

如果路透社的报道是正确的，这表明OpenAI可能已经创造了这样一种混合系统，使用的是硅和计算机芯片，而不是神经元和生物电缆。

据报道，Q*能够进行符号推理，即使目前还处于非常低的水平，但这表明它可能已经成功开发出Smolensky提出的那种连接主义“虚拟计算机”系统。

与人类大脑一样，这将赋予新模型以直观和创造性思维的能力，同时也能切换到符号推理模式，并解决像数学问题这样有单一正确答案的问题。

因此，能够进行基本数学运算并不是OpenAI突破的重点。相反，据报道，神经网络模型已经开发出这种能力，表明该模型在模仿人类大脑的基本能力方面迈出了重要一步。

这一飞跃很可能是OpenAI董事感到恐慌的原因。如果Q*朝着更类似大脑的架构迈出了一大步，随着其扩展，它可能会发展出与人脑相似的其他能力。

对于人工智能末日论者来说，这足以让他们彻夜难眠，或者导致一位受欢迎的首席执行官惊慌失措地下台。

03.不至于毁灭世界

与那些末日论者的担忧相反，Q*可能不会毁灭世界。即使该模型已经实现了先前仅限于人类大脑的突破，也并不意味着它具有超级智能、意识，甚至达到了通用人工智能的水平。

如果报道属实，这意味着OpenAI在创造有用的人工智能方面又领先竞争对手一大步

在自然语言处理、药物发现和数学等领域，一个既能凭直觉又能用符号进行推理的模型将极为重要。这些领域需要创造性和逻辑性的融合，而目前的大语言模型很难做到这一点。例如，理解语言需要理解含义，同时还需要掌握语法等确定性基础知识。

目前的大语言模型可以在统计学的基础上理解语言，预测在给定文本中可能存在的单词。但是，他们并不能真正理解所有人类语言所具有的基本符号逻辑，也不能真正理解产生含义的词汇之间的联系。

像Q*这样的模型，如果真的能将符号推理和直觉推理融为一体，就有可能将文本分解为语法构成部分，充分理解上下文，然后创造出与训练数据毫无统计关系的全新文本或观点。这将赋予它巨大的创造力。

同样，如果一个系统既能够理解像蛋白质折叠过程这样的确定性数学，又能更直观地了解人体机能，那么它可能会以极快的速度发明有用的新药物。

即使Q*已经存在，它可能也不会立即面向公众。正如这样的系统可以彻底改变药物制作或创意写作，它也可能擅长发明生化武器或编造令人信服、难以察觉的宣传。在Q*这样的系统公开之前，OpenAI需要应对这些风险。

不过，如果有关Q*的报道是准确的，那就说明Altman在Reddit上关于AGI的暗示并不是在故弄玄虚。

尽管它可能还没有出现，但像Q*这样的系统将是人工智能的一个巨大飞跃——其功能更像人脑，和我们人类一样具有推理和创造力。

原文由Thomas Smith撰写，中文内容由元宇宙之心（MetaverseHub）团队编译，如需转载请联系我们。

       原文标题 : 神秘代号Q*到底是什么？OpenAI是否偷偷创造了一种类似人脑的智能？