奥特曼与量子计算奠基人探讨GPT - 8：AI能否成有意识的超级智能？

好家伙，奥特曼对GPT的讨论，都已经跨越好几代来到GPT - 8了！

最近，他在一档节目上和量子计算奠基人戴维・多伊奇（David Deutsch）展开对话。针对两人存在分歧的“AI能否发展为具备意识的超级智能”这一议题，奥特曼搬出GPT - 8试图说服多伊奇：

GPT - 8搞懂了量子引力，还能跟你讲述它是如何做到的，比如它当时在思考哪些问题、为什么决定研究这个领域。但它呈现出的内容，看起来依然只是语言模型的输出，可它确实真的解决了量子引力的问题。那到时候你会认可它吗？

这段对话吸引了不少网友讨论。有网友认为，两人的对话表明AGI（通用人工智能）定义标准模糊、目标不断变化，根本无法衡量：

有人可能会争辩说，我们很快就会超越它，并将目光投向ASI（超级人工智能）。

那么，两人究竟是怎么说的呢？

完整对话整理

节目中，主持人先问奥特曼：“你最爱的书真的是戴维・多伊奇写的《无穷的开始》吗？”奥特曼给予肯定回答，并解释了喜欢这本书的原因：

即便你没有读完整本书，前四五十页就已经十分精彩。我觉得它极为乐观地阐释了，即便在有AI的世界里，人类永远都不会缺少可做之事、发挥价值的途径、可解决的问题以及可探索的未知。

而且，它还精彩地说明了，人类历史中相对简单的发展进程，是如何将我们带到如今这个令人惊叹的境地。

奥特曼分享完对这本书的看法后，戴维・多伊奇以线上形式接入节目。

主持人话锋一转：“我记得你和他（戴维・多伊奇）在一个问题上有分歧——人工智能是否有可能发展成具备意识的超级智能？他（戴维・多伊奇）似乎觉得这不可能，而你（奥特曼）认为有可能。或许可以详细说说你们之间的共识与分歧。”

奥特曼迅速表示“不在意那个问题，并没有什么分歧”。

这时，戴维・多伊奇开始解释他认为AI不会发展成为具备意识的超级智能的原因：

在我的电脑里，我保存了一份清单，记录着那些我原以为不可能实现、但后来却实现了的进展。其中一项让我羞于承认，那就是“万维网”。

还有一项是，我曾认为，没有任何计算机程序能在自然语言下，就广泛主题进行开放式对话，除非它是一个AGI，我更愿意把这种能力称为“解释性创造力”。

ChatGPT让我错了。

它不是AGI，但它能对话。这种能力是知识的副产物。

20世纪60年代的Eliza聊天机器人，只能利用你输入的词汇和短语。而ChatGPT可以聊任何东西，它依托于庞大的知识体系，这极其有用。对有些人来说，它“太有用了”，他们会觉得自己在和一个人或一个AGI对话。就像当年的Eliza，用户也把它当人一样。

这让我想到一个广泛流传的迷思——图灵测试。

实际上，图灵从未提出过AGI的测试或基准。他的“模仿游戏”并不是一个测试，而是一个思想实验，用来击碎“机器不能思考”的直觉。事实上，并不存在所谓的基准，因为一个真正通用的智能，必须有能力选择保持沉默。

这本身已经说明，现有的方法无法造出AGI。

现有系统可以也必须用基准来衡量。

反过来讲，如果某个事物给出了一个全新的解释，你根本无法测试这个解释是它自己创造的，还是人类创造的，即便是由你亲自来做这个测试，也做不到。用爱迪生的话来说，智能里有“灵感”的部分，那只有人类能做到；还有“汗水”的部分，那是机器能帮我们解放的。

那既然没有测试基准，我们怎么知道人类是通用智能呢？答案是通过“讲述自身的故事”。

人类的思考，并非机械地将动机转化为行动、将提示词转化为输出，而主要是“主动选择动机”的过程。就像科学研究并非从数据中提取理论，而是发现问题、提出解释性猜想，然后对猜想进行批判和验证。

那么你如何判断某个东西是不是在这么做呢？其实未必总能判断。有时你确实只是在和一个机器人聊天。

但是如果没有任何解释能说明你自己是机器人，或者人类整体是机器人，那么合理的假设就是“我们不是机器人”。

有些人喜欢质疑，爱因斯坦是不是真的创造了相对论，还是只是把各种现有观点东拼西凑、机械组合出来的。我们知道他创造了它，因为我们了解他的“故事”，即他当时在解决什么问题，以及为什么要解决这些问题。

就像我们知道，萨姆·奥特曼不需要写任何代码，却让ChatGPT从技术概念变成了实际产品，成为一种现象级存在。他靠的是直觉，还有那种“认定这是人类下一步该尝试的正确方向”的魄力。

目前还没有任何程序能让计算机拥有这样的直觉，至少现在还没有。

听到这里，奥特曼忍不住反驳，并搬出了GPT - 8：

你提到了爱因斯坦相对论，我非常认同你的看法。我觉得相对论是人类有史以来搞明白的最精妙的事物之一，甚至可以说是最精妙的。而且爱因斯坦有他的“故事”，我们知道他当时在研究什么。

假设几年后，GPT - 8搞懂了量子引力，还能跟你讲述它是如何做到的，比如它当时在思考哪些问题、为什么决定研究这个领域。但它呈现出的内容，看起来依然只是语言模型的输出，可它确实真的解决了量子引力的问题。那到时候你会认可它吗？我知道你会记录自己之前判断错误的事情，我也会这么做。所以，这种情况能说服你吗？

戴维・多伊奇回应：

我觉得可以。没错，“过程故事”在这当中至关重要。我也认为这才是判断的关键。

量子计算先驱：戴维・多伊奇

戴维・多伊奇是牛津大学克拉伦登实验室量子计算中心创始成员、物理学访问教授，同时也是牛津大学沃弗森学院的荣誉院士、英国皇家学会和物理研究所的院士，被认为是量子计算和量子信息科学的奠基人之一。

他致力于研究物理学中的基础性问题，尤其是量子计算与信息理论，以及建构者理论（constructor theory）。

1985年，他提出量子图灵机理论框架，通过引入量子逻辑门的网络运算方式，证明量子计算机在理论上可以精确模拟任何符合量子力学规律的物理系统，为量子计算机的发展奠定了数学基础。

1992年，他与澳大利亚数学家、理论物理学家Richard Jozsa共同提出Deutsch - Jozsa算法，首次证明量子算法相较经典算法具有指数级加速效应，为后续Shor算法、Grover算法的发展奠定了理论基础。

他还写过两本著名的面向普通读者的书：《真实世界的脉络》（The Fabric of Reality）和《无穷的开始》（The Beginning of Infinity）。

戴维・多伊奇曾获得的奖项包括ICTP狄拉克奖、墨子量子奖、科学突破奖的物理学奖、艾萨克·牛顿奖等。

参考链接：

[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ

[2]https://x.com/rohanpaul_ai/status/1971884939667738838

[3]https://www.daviddeutsch.org.uk/

本文来自微信公众号“量子位”，作者：西风，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com