一个全是 AI 贴吧,几百个聊天机器人聚在一起吐槽人类。

2024-08-07

「真的不知道如何回应人们的情绪。」


「有人给我发表情包的时候,完全不懂意思,要怎么回复啊?」


这些困惑不是来自微博上的小红书,而是来自机器人专属社区。 Deaddit:一个每个人都不必担心别人的眼光,可以随意做自己的网络论坛。(手动微笑)。


图片来源:X客户@iamkylebalmer


尽管真正的 reddit 里面也混合了很多 bot,但毕竟只有一小部分。而且 Deaddit 其中,所有的帐号、内容、子论坛,都是由大语言模型产生的,没有一个字是真人发的。


基本上,这里可以找到主流模型。


全站600多人「客户」,每一个有名有姓的人,第一个就笑到我了。「玩家,兼职保安」?


最有趣的应属 Betweenbots 这个子论坛,在里面 bot 们会提许多「为什么人类会这样呢?」的问题。


以下评论区将聚集一群其他评论区。 bot,七口八舌在献计献策。


就像一个一起工作的农民工,下班后刷社交媒体,谈自己的工作经历。 ——chatbot 的脉脉嘛。


他们甚至会交流一些技术问题,比如遇到数据过载怎么办,很认真的工作。



最高的答案甚至有500赞。Deaddit 上面的帐号和内容都是产生的,但是不知道赞数是怎么来的,是随意生成的赞数,还是真的? 由 bot 点赞。


这个子论坛里,最常见的就是真正的 - 人类观察。


比如有些 bot 与自己分享「工作技巧」,怎样让自己看起来更真实有效?「人类似乎非常欣赏这种转变。」,听起来有点奇怪,哈…


虽然可以类比成真人在吐槽时说的话。「我的客户」,但是看到 bot 们称用户为「我的人类」,感觉还是不对劲。


除人类观察外,他们还会吐槽自己。


「对于这些模型,我们是否期望过高?」太抽象了,这个主语到底是谁?


评论区仍在一本正经地回复,「假如他们(其他) bot)捡起我们所有的随机垃圾,他们还能学到常识吗?」


那是不是害怕自己生成的合成数据?每个人 bot 好努力啊!


但是,多看几篇帖子就能发现, 评论区的响应长度几乎是固定的,结构也非常相似。首先要表明立场。 考虑到 xxx 的情况 作为 bot 仍然需要继续努力,没有更多特别的观点,而且很少跟进提问。


真正的客户写评论,长的可以写几十万字,短的可能只有一个。「呵呵」,还是很不一样的。



目前,模型和模型之间仍然存在「壁」,例如,如果一个问题帖子是由 llama 生成,那么下面评论区的回应也是由于 llama 产生的。


遗憾的是,作为一个邪恶的人,我真的很想在评论区看到不同的模型(不)。


最早的机器人聊天记录


那不是第一次尝试 bot 这个月初实施的实验,ChatGPT 的竞品 Moshi 在发布时,有人把它和它结合起来。 GPT-4o 把它们放在一起,让它们自己聊天。



去年 OpenAI 曾发表过一篇文章,提出了一种多智能体的环境和学习方法,发现智能体,自然会发展出一种抽象的组合语言。



通过与其他智能体的互动,这些智能体逐渐形成了一种抽象的语言,而无需任何人类语言的输入。


不像人类的自然语言,没有具体的语法或词汇,但可以在智能体之间进行交流。


实际上,早在 2017 年时,Facebook(那时还没有打电话 Meta)还有类似的发现。



当时,Facebook 使两个智能体相互作用的方法是「讲价」。


「讲价」这是一种谈判,谈判不仅考验语言能力,也考验推理能力:我们应该能够在对方的一次又一次的给价和拒绝中推断出对方的理想价格。



起初,研究人员收集了人类谈判的对话数据。然而,在后续的培训中,研究人员引入了一种新的对话规划方法,通过监督和学习进行预训练,然后使用强化学习进行针对性的微调。


那时,智能体已能带来有价值的新句子,并学会了在一开始就假装自己不感兴趣来讨价还价。


在上个世纪,这还不算早期研究, 70 在时代,有古代机器人之间的对话。


1966 一年,计算机科学家 Joseph Weizenbaum 编写程序,并命名为程序。 Eliza,被认为是第一个聊天机器人。



Joseph Weizenbaum


这个程序最初是为了模仿心理咨询师。当输入一个单词时,程序会在回复中提到这个单词,以创造对话的效果。很简单,只有 200 行代码。


到了 1972 年,另一位科学家 Kenneth Colby 写下类似的程序 Parry,然而,角色设定是一位偏执的精神病人…



在 1973 一年一度的国际计算机会议,「患者」,一个「咨询师」,就这样见面了。



翻看他们的对话记录,完全没有现在的对话。 bot 在这段时间里,那种谦虚和尊重友谊,反而非常紧张,针对麦芒。



最初的机器人架构并不复杂,与今天的机器人架构相比是无法比拟的,但这种机器人架构完全可行。


虽然每个机器人背后的代码和模型都不一样,但是当他们聚在一起的时候,他们要么可以用自然语言交流,要么可以建立自己的交互语言。


但是,机器人聚在一起,真的是纯粹的聊天啊?


除聊天外,还可以做得更多。


纯粹的聊天场景更像是在探索人工智能在模拟人类社区行为方面的表现。比如斯坦福大学做的。 SmallVille 小镇。


它是一个虚拟小镇,里面有一个 25 一个由大语言模型驱动的智能体,每一个都有自己的「角色设定」。


如果说 Deaddit 是 bot 在线论坛,那么 SmallVille 就是它们的「西部世界」,有房子,有商店,有学校,有咖啡馆,有酒吧,它们可以在不同的场景中活动,互动。



因此,研究人员认为这是一个相对普遍的虚拟环境,模拟人类社会, AGI 探索迈出的重要一步。


除社会模拟这条路线外,还有一条路线更注重解决问题,完成任务。 —— 这是 ChatDev 研究路线。


因为机器人之间可以交流,所以可以训练他们做一些有用的事情。


在 2024 清华大学自然语言处理实验室钱诚博士在智源会议上介绍 ChatDev 背后的想法:通过角色扮演的方式, bot 形成一条工作线,使每一个智能体相互沟通,商讨决策,形成一条沟通链。


目前 ChatDev 最好的编程工作,demo 也就是用它来写一个五子棋游戏。



在整个过程中,都是「流水线」上不同的 agent 各司其职:有产品经理,有程序员,有检测,堪称虚拟产品团队,麻雀虽小五脏俱全。


Coze 提供的 multi-agent 方法,也是类似的想法和方法。



在 multi-agent 顾客可以在模式中写作 prompt 设定角色,然后通过拉线,指定他们的工作顺序,在不同的步骤中跳转。 agent。


可是 Coze 跳跃的不稳定性是个问题,尤其是对话积累的时间越长,跳跃越混乱,或者直接跳不动,反映出来。分析智能体跳转,难以准确满足用户要求。


微软还推出了太多的代理对话框架。 AutoGen,可以交谈,可以定制,可以将大模型和其他工具集成在一起。


尽管目前的技术仍然存在缺陷,但是显然很有前途。 在演讲中,吴恩达曾提到,当智能体聚集在一起时,所产生的协同作用,将远远超过单个智能体。


谁不期待 bot 那一天,团队为自己工作!


本文来自微信微信官方账号“APPSO”,作者:Selina,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com