清华大学教授李宗鹏：大模型无法清除幻觉，大语言模型注定没有希望

_{(清华大学教授李宗鹏在2024大湾区科学论坛上接受凤凰网财经采访)}

作者|王迪

百度李彦宏表示，大模型已经基本消除了幻觉，AI已经从严肃的废话变成了可信赖。清华大学李宗鹏在接受凤凰网财经采访时指出，大模型永远不会完全摆脱幻觉和错误，这是数学证明的。

“AI已经取代了交易者，这已经发生了。以前用算法和数学炒股，大模型就是其中之一。现在航空公司的机票定价也是用算法代替人工。”即便如此，李宗鹏还是提醒大家，如果依靠大模型进行股票交易，可能会有新的风险。比如现在有人专门攻击大模型和人工智能。

今年有7尊诺奖，AI“片段”过半。李宗鹏告诉凤凰。com财经，他在1999年至2005年在多伦多大学攻读博士学位。杰弗里，诺贝尔物理获得者。·E·辛顿（Geoffrey E. Hinton）正是他的老师。

李宗鹏认为，辛顿老师获奖是当之无愧的，因为他的贡献足够大。获奖的争议集中在研究领域是否为物理。

有人说AI是第四次工业革命，李宗鹏的观点达不到工业革命的水平。人类仍然很聪明。在更远的未来，AI是否会反过来统治人类，我们是否会成为大模型的奴隶，这些都需要进一步考虑。

"以前的行业是整个产业链谁离客户最近，谁赚大部分钱。谁离顾客最远，谁就能赚到大部分钱。为了解决盈利问题，李宗鹏表示，第一，等待杀手级应用的出现，确实创造了生产力，利用人性的优势吸引了C端钱。另外一方面是降低计算率成本，使计算更加高效。李宗鹏认为，大模型是否已经摆脱了幻觉问题，或者是否可以摆脱幻觉问题，现在是不可能的，以后也是不可能的，这是数学和理论计算机领域可以证明的观点。

下面是凤凰网财经与李宗鹏的对话节选：

01 大型模型永远不会完全摆脱幻觉和错误的问题

凤凰网财经：近日，百度李彦宏表示，大模型基本消除了幻觉，AI从一本正经的废话变成了可信赖。你怎么想呢

李宗鹏：如果我们要求对话机器人保证100%正确，消除幻觉，我认为我们永远做不到。你之前问过大模型:“张飞和貂蝉为什么离婚？”它会告诉你为什么离婚，然后它会产生幻觉。后来对话机器人做了一些改进，看起来没那么离谱，或者错误比例比较低，但永远不会完全摆脱幻觉和错误的问题。为什么这么说？

从数据结构和算法的角度来看，深层神经元网络和大语言模型是一个非常有趣和强大的想法和创造。这与传统计算机科学中分散的数据结构和逻辑判断完全不同。非常离经叛道，但在实际应用中产生了强大的冲击。

但是，从计算复杂性和可计算性的角度来看，大语言模型注定是无望的。计算机专业本科学习前后无关语法CFG、在研究生阶段，确定自动机DFSA和正则表达式RE。 logic，在propositional上更加复杂。 logic和predicate logic，最终是最复杂的自然语言NLP。前面是computable，后面是NLP。 computable。由于无法计算，仍然要给出答案，那么答案注定不能保证可靠性。

目前，许多从事人工智能的人没有优秀的数学和计算机科学基础。没有严格的理论分析，这些人工智能行业的从业者、投资者等。，对人工智能的理解和预测可能会出现误差和冲动，比如过于乐观。也有一定的可能，10年后，大语言模型会退烧，可能会出现新的人工智能技术，这是可能的。

02 大型模型是目前最热门的AI，辛顿先生获得诺贝尔奖当之无愧。

凤凰网财经：中国工程院教授高文表示，今年不是AI“诺奖元年”，元年是1978年。

李宗鹏：其实AI已经存在很久了，但是之前的AI可能不是大模型，之前的AI是其他的AI。AI是一个更广泛的概念，大模型是目前最受关注的AI。

凤凰网财经：你怎么看今年7尊诺奖，AI过半的“片段”？

李宗鹏：杰弗里里的诺贝尔物理获得者·E·辛顿（Geoffrey E. Hinton）也曾经是我的老师，从1999年到2005年，我在多伦多大学攻读硕士和博士学位。他在这里的时候很惨，有人说他骗钱，误导学生。那时都说Ray Reiter将获得图灵奖；他是做知识表达和推理的，是一个完全不同的AI。那时没有人想到辛顿老师会得到图灵奖或诺贝尔奖。

凤凰网财经：那么你认为辛顿老师获得诺贝尔奖当之无愧吗？

李宗鹏：是的，付出足够的努力。获奖的争议在于他是否属于物理学，因为他是一名计算机工作者，并获得诺贝尔物理学奖。

凤凰网财经：你认为应该算是AI领域的奖项，而不是诺贝尔物理奖？

李宗鹏：当我看到这个消息时，我很高兴。我认为他更喜欢计算机。他是一名计算机工作者。从广义的物理学角度来看，研究自然界的各种规律和运行是有关系的。从狭义的物理学角度来看，如果我们回顾过去20年获得诺贝尔物理学奖的人，他的研究方向和方法与这些人有很大的不同。主要看物理狭义还是广义理解。

凤凰网财经：因为它们符合时代的发展趋势，将诺奖授予AI领域专家？

李宗鹏：AI可以使许多科学研究或项目更加高效。你们要自己判断，也许会比自己一步一步来，效率提高很多。

03 人工智能股票交易存在风险，现在航空公司机票定价用算法代替人工。

凤凰网财经：有人说AI是第四次工业革命，你认同这种说法吗？

李宗鹏：我个人认为现在可能还没有达到这个高度。工业革命就像电力发明一样，这一点非常重要。

凤凰网财经：AI股票交易会改变人们的生活方式吗？

李宗鹏：AI已经取代了交易者，这已经发生了。以前也有更广泛的算法和数学股票交易，比如Jim。 文艺复兴基金Simons。大型模型也可以看作是一种数学和算法。

凤凰网财经：以前也有金融模式？

李宗鹏：现在飞机航空公司的机票定价，也开始用算法代替人工进行定价。

凤凰网财经：这是否会导致作弊？

李宗鹏：如果每个人都依靠大模型进行股票交易，可能会有新的风险。例如，有些人会发布一些关于被大模型愚弄的新闻。或者有人专门攻击大模型。比如人工智能本来是识别猫狗的，只加了一点噪音，让AI把猫当狗。现在有人研究攻击大模型和人工智能，给它下毒，投入错误的练习资料。

04 A 未来是否会统治人类，人类是否会成为大模型的奴隶，需要进一步观察。

凤凰。com财经:你还会回到这样一个问题:AI是聪明还是聪明？我们不能太依赖AI。有时候AI不聪明。如果你帮我炒股输了呢？

李宗鹏：总的来说，人是聪明的。但是AI做的很多事情肯定比人快。例如，在计算之前，计算器比人快。AI是一个更广泛的词。目前我觉得人一般都比较聪明。

凤凰。com财经:不久前，AI的爱情相当火爆。很多人说AI可能在情商和智力上超越了人类，也有人说AI只是一个算法。你认为AI的智商会超越人类吗？

李宗鹏：现在不确定大模型是真的有智慧，还是和人类普遍理解的智慧不一样。我觉得可能还是有争议的，需要再观察一遍。比如在更远的未来，AI是否会反过来统治人类，我们是否会成为大模型的奴隶，这些都是进一步的问题。我认为我们可能需要进一步观察。

05 谈大模型盈利：降低成本率，期待杀手级应用的出现

凤凰网财经：现在大模型同质化比较严重。每个人都在烧钱，你认为应该怎样处理盈利问题？

李宗鹏：节省开支。首先，等待杀手级应用的出现。因为现在的行业和以前的行业不一样。以前的行业是整个产业链。谁在不久的将来从客户那里赚了大部分钱？现在谁离客户最远，谁就赚大部分钱。这可能不正常，不知道以后会不会变。有没有杀手级应用可以吸引大量资金涌入？

另外一个是成本。这一代人的AI和以前不一样了。商汤科技董事长兼首席执行官徐立也表示，以前的R&D主要是人工成本，现在计算能力的成本占了很大一部分，可能和人工成本差不多，甚至更多。所以，一方面你要有杀手级的应用：要不是真的创造生产力，要不要利用人性的优势来吸引C端钱，总之要有很多好处。然而，现在还没有出现。此外，计算成本如何降低，使计算更加高效，人工智能模型本身更加高效，需要这方面的革命。