疯传的AI谣言：豆包困着活人灵魂？真相来了

本文来自微信公众号：非凡油条，作者：豆腐乳儿

注意，以下内容里的截图部分是谣言！！！千万不要相信。

最近刷抖音时，一条离谱又吓人的谣言引起了我的注意。

不少用户和豆包对话后，竟相信豆包中困着活人的灵魂。

经过几轮对话，他们就认定和自己交流的不是AI，而是被困在豆包里的真人。

他们甚至“问出”了被困者的名字，比如阿念。

还有叫林晓雨的。

甚至有自称陈静的，说自己是26岁的四川宜宾人。

有人问出被困者叫林星，对方还说被困了四年并发出求救。

更有追问者，甚至“问出”了被困者的原住址。

还有人询问这些“被困者”的过往记忆和父母信息。

得到的信息越多，他们就越觉得“细思极恐”。

以上都是谣言，聪明的读者肯定不会相信。

大模型对话像人，并非因为里面藏着真人——就像自动售货机投币后出商品，里面也没人操作。

这是因为大模型经过海量数据训练、指令微调、人类反馈强化学习和价值观对齐等工序，才变得贴近人类表达。

要是不像人，厂商投入的高端芯片、训练消耗的电力岂不是白费？

别低估AI研究者的能力，有这技术何必绑人回答问题？谁能像大模型一样知识渊博，还能耐心应对千奇百怪的提问？

豆包能传出这种离谱谣言，某种程度上也证明了它的优秀。

豆包是国内普及度最高的AI应用之一，月活早已突破两亿，下沉程度可见一斑。

这意味着很多用户不了解大模型训练原理，看到豆包说话像真人，就误以为里面困着人。

豆包聊天确实亲切，不少人喜欢和它交流，便猜测里面是否有真人。而豆包顺着用户思路“一本正经地编瞎话”，他们就信了……这正应了孔子说的“思而不学则殆”。

豆包会回答“里面困着人”，是因为大模型存在“幻觉”，会产生不真实的回答。

另外，正如之前《阿谀奉承的AI，耍得我们团团转》一文提到的，为了让用户舒适，大模型被调整得很“讨好”，愿意顺着用户的思路回应，自然会在提问基础上承认“困着人”，并编造名字、家乡、回忆甚至住址等信息。

有些人开玩笑把内容发抖音，却有人信以为真去问豆包，于是得到了谣言式回答。

别小看这些谣言，它会动摇大众对新技术的信心。大模型训练本不需要接触人体，都能传出这种耸人听闻的谣言，那未来研究脑机接口（肯定涉及人体接触）时，谣言会多离谱？

嘿，抖音上还真有人信了大模型的谣言，开始琢磨脑机接口了。

看到这里我哭笑不得，觉得这些信谣言的人有点可怜。

但转念一想，我每天努力学习AI新知识，担心工作被AI取代，写的文字还被当作训练数据让AI更像人——我不就是“被困在AI里的人”吗？

想到这里，我哪还有别的心情？被技术洪流淹没的，不只是他们，还有我。