TED演讲：除了代码和芯片之外，我们还重新定义了AI时代的人类价值。

2024-10-04

来源 | AI 工作坊，管理智慧

咨询合作 | 13699120588

本文仅代表作者自己的观点，图片来自 pixabay

这一期发人深省 TED 斯坦福大学社会心理学教授在演讲中 Brian S. Lowery 与 Inworld 创始人兼 CEO、AI技术专家 Kylan Gibbs 共同探讨了前沿技术对人们心理健康和社会动态的深刻影响。他们的对话揭示了一个看似不同的情况:随着人工智能的使用越来越多，我们的感受可能会越来越不真实。。

Gibbs 提出了一个发人深省的观点：社交媒体上的互动往往缺乏真正的对话本质。尤其是年轻一代，可能会把这些表面的互动误认为是真正的社会联系。类似地，在人工智能领域，有些人可能会被 AI 被拟人特征所吸引，甚至被视为最真实的交流目标。然而，Gibbs 感觉，有足够同理心的人会意识到这种互动中的不自然之处。

演讲还讨论了大型科技公司的发展 AI 在系统中面临的问题。 AI 当模型需要为数十亿客户服务时，如何在不过度收敛的情况下保证个性化？这种大规模应用真的可行吗？随着商业化进程的推进，广告模式的引入可能会进一步改变 AI 与用户互动的本质。

最终，Gibbs 指出了一个关键问题：利益和技术创新之间的矛盾。许多人致力于 AI R&D的科技工作者可能不热衷于商业化，但他们不得不面对股市和资本的压力。如何改变这种现实？ AI 未来一段时间内，发展的激励制度将是一个值得关注的重要问题。

随着这一技术的飞速发展，Lowery 和 Gibbs 这一观点为我们提供了深入思考的机会，让我们重新审视技术进步与人类核心需求之间的平衡。

Brian S. Lowery： 假如你能够创造一种更加沉浸的社交体验，每个人都在进行自己的社交体验。我现在担心的是， AI、随着虚拟现实和其他扩展技术的发展，我们每个人都生活在自己独立的世界里。这比每个人沉浸在同一种感觉中更可怕。那么，是什么让人类成为人类呢？

Kylan Gibbs： 那是一个经典的问题，对吗？我认为可以从两个方面来看：一是我个人生活中的经历，二是我在工作中的感受。有意思的是，有一段时间我每天花四到五个小时。 AI 互动。一开始，你会注意到，这真的很真实。正如当年大家第一次看到黑白电视时，他们惊叹道：“哇，这就像日常生活一样。“但是，当你习惯了这些互动，你就会逐渐意识到那些让它不那么真实的地方。我在和 AI 我们在交流中意识到的一点是，我们的交流方式中有一种自发性。而 AI 可预测性反而教会了我人类交流中的自发性。AI 缺少的是沟通的自然、情境感知等细微之处，而这些恰恰构成了人类的互动体验。就技术而言，这些都是 AI 缺点。

另外一方面，人类的共同感受也把我们和其它动物区分开来。举例来说，你经历了一个创伤性的时刻，然后开始和别人的情绪产生共鸣。每当我经历了一些几乎毁灭性的事情，这就打开了一扇新的同理心之门。您将开始感慨：“哦，天啊，那真的很痛。"或者当你因为某件事哭泣时，你会想起你为母亲或奶奶所做的一切，以及他们的经历。在这些共同的经历中，我认为有些事情会把我们区分开来。我们是不同的人，但是这些共同的经历却让我们联系在一起。那只是我的一个想法。

Brian S. Lowery： 我很喜欢你的回答，但我想说，你在这一点上并不“正常”。我认为你们之所以不正常，是因为每个人都会赋予任何个性化的东西，即使它们不那么真实。它甚至不需要靠近 AI 标准，人们将赋予它一定的个性化特征。举例来说，有些人会对自己的车产生情感，好像他们有生命。所以，我很惊讶你在和和。 AI 多了互动之后，反而觉得它不那么真实。

Kylan Gibbs： 它与分辨率有关。就像看世界一样，当你提高分辨率的时候，就像你现在受不了一样。 4K 的电视了。一位虚拟现实领域的专家曾经说过，当你从 VR 当世界走出来的时候，你会发现现实世界实际上是惊人的。而且技术很难再现这种惊艳的感觉。我觉得 AI 同样如此，也许有些人会在和谐。 AI 在互动中看到一些共性。但是每次我注意到，这和我和父母的对话完全不同。即便 AI 说出类似的话，总会有一些不对劲的地方。在时间的流逝中，这些微小的差别会逐渐积累起来，当我们和我们 AI 在更多的互动中，他们会开始意识到——我甚至不能准确地指出这些差异到底是什么，但是这正是我们作为人类的独特之处。

Brian S. Lowery： 你们一看就明白，AI 这种东西缺失了。这很有意思，因为你刚刚暗示了一件事:随着人们和人。 AI 增加应用程序，AI 反而会变得更加不真实。您认为这是未来的趋势吗？

Kylan Gibbs： 我的意思是，也许还有另外一种情况，正如你所知，你的， Instagram 和 Facebook 世界上的动态并非真正的对话。但是，肯定有一些人，尤其是孩子，会把这些动态当成真实的，认为这是朋友或者他们最喜欢的名人的真实表现，或者说是他们的真实想法。虽然这些基本上是——我不应该说完全——但在很大程度上是假的。我认为类似的情况会发生。 AI 事实上，有些人可能真的会被它吸引，甚至相信它是最真实的东西，然后开始跟随人类。 AI 做比较。但是我觉得，如果你有足够的同理心，你会感觉到：“哦，这里有点不对劲。“就像即使你使用它一样 Zoom 在视频聊天中，总会有一些不对劲的地方。虽然很难说清楚，但我收不到所有的信号，这些细微的差别恰恰是我们微微感知到的。

Brian S. Lowery： 所以你不认为技术能够迅速地发展到足以克服这些小问题，并且能够迅速地让我们所有人都被它捕捉到吗？您不担心这个吗？

Kylan Gibbs： 这一点我一定很担心。这主要是因为我认为对大多数人来说，这很容易，对吗？AI 特征，至少像你想到的聊天机器人风格。 AI，这很大程度上取决于我们的需要。而且这是许多人在生活中想要或需要的东西——一种控制感。而 AI 给你一种感觉，好像你能控制这个拟人化的东西。老实说，我最担心的是每个人都会习惯这种感觉。那么，当我习惯了和一个只依赖我思想和兴趣的东西互动之后，我又去和一个有自己兴趣的人类互动，这意味着什么？

Brian S. Lowery： 您认为人们想要控制吗？我认为人们想要被控制。

Kylan Gibbs： 也许这也是一种控制，接受控制代表一种可预测性，我认为。

Brian S. Lowery： 是的，人们希望这个世界有意义，你不觉得吗？

Kylan Gibbs： 是啊，我也认为他们希望这个世界…有些人更喜欢可预测性，而非最优解。比如，我甚至觉得，当你或者你的朋友有心理问题的时候，最有意思的是，即使更糟糕，你的大脑和思想也倾向于保持熟悉的状态。所以，如果你处于抑郁状态，你几乎宁愿呆在里面，也不愿跳出来，对吗？所以，在某种程度上，熟悉的东西比真正好的东西更有吸引力。我不知道，这是一种倾向，你几乎会开始承认那些状态。

Brian S. Lowery： 是啊，这方面有研究。第一，它被称为现状的偏见。（Status Quo Bias）。人们喜欢已经存在的东西。其次，即使这些信念不积极，人们也喜欢确定自己对自己深信不疑的东西。所以这是事实。现在 AI 这个会是什么样子？(笑声)

Kylan Gibbs： 有趣的是，人们似乎很喜欢和这些事情交谈，尽管它们听起来像电脑，像电脑， AI，但是人们喜欢它，因为它非常熟悉和可控。如果你开始加入很多个性和这些东西，它们在特定的语境中是有意义的。但是我发现有趣的是，当我们开始发展这些人与之互动的时候。 AI 在系统中，它们都有类似的声音。非常“非常” AI “化”的声音。你们几乎可以马上知道你们在和和 AI 对话。或许这是故意的。但是在这里我认为，人们更倾向于从人类那里得到人类的东西， AI 那里获得 AI 的东西。然而，这个界限可能是模糊的。很多人，尤其是一些群体，在网上花了很多时间，开始把这种方式当成自己喜欢的互动方式。

所以，我确实认为将来会有这样一个现实：由于某种原因，人们会偏爱这种互动方式。也许是因为他们知道自己不会被判断， AI 与他们交谈的方式使他们感到舒服。这样的倾向会使他们更喜欢这种互动。但是另一方面，我总觉得会有一种分布，有些人很不喜欢这种方式。正如我之前所说，现在我和 AI 互动越多，我就越觉得痛苦，因为我能感觉到这些问题太多，到了某一点我甚至不能再用了。你们知道，我在这里 AI 工作领域，写作 20 页面文档，但是我不需要任何页面。 AI，这是因为它缺少了“声音”。当我们和我在一起时，我也在想 AI 当他们有更多的互动时，他们会意识到这些差异，或者他们会开始适合。 AI 训练方法？正如你和伴侣互动时一样，对吗？由于交谈的次数，你会受到对方交流方式的影响。

Brian S. Lowery： 你们是否意味着他们在练习你？

Kylan Gibbs： 是的，他们在练习你。你的伴侣可能有自己喜欢的交流方式，你会逐渐习惯这些事情。所以我真的在想，当我们和你在一起的时候。 AI 更多的互动，会不会逐渐趋同？事实上，我是这样对待的。 AI 其中一个是最大的担忧。

Brian S. Lowery： 我的担心正好相反。从另一个角度来说，当我们讨论时， AI 当时，你所描述的一般是二元互动：我和一个 AI、智能体互动。可以实际上，每个人都和多个人互动，对吗？在某个社区或小群体中，你会互动。我很惊讶 AI 对这些人群的互动没有更多的关注。你也涉及到游戏领域。我不是很会玩游戏，但是我的理解是，很多游戏都是关于和人取得联系，这是一种社区化的感觉。所以有两点：第一，我真的很惊讶。 AI 这种一对一的互动似乎是如此的致力，而非多个。 AI 智能体共同创造了更具沉浸感的社会体验。

Kylan Gibbs： 你提到这一点，我很高兴，因为这正是我们所做的。

Brian S. Lowery： 太棒了，这是其中之一。还有一点，我更担心的是分化而非趋同。假如你能够创造出一种更具沉浸感的社交体验，现在每个人都在进行自己的社交体验。我现在担心的是， AI、随着虚拟现实等拓展技术的发展，我们控制了社会环境和感官体验，导致我们每个人都生活在自己独立的世界里。对于我来说，这比我们都沉浸在同样的经历中更可怕。

Kylan Gibbs： 嗯，我妈妈是七年级的老师，她讲了一件很有趣的事情。假如你回到 20 几年前，每个人都在看同一个电视节目，然后在课堂上讨论。现在，每个人都在看自己喜欢的东西。 YouTube 频道。它是一种现实的隔离。在处理游戏的时候，我们也是如此，比如，每个人玩游戏的体验基本相同。即使有数百万人玩同一个游戏，尽管有些不同，但是大致会经历同样的节点。所以我们正在思考的是，这对“主动”（agency）这意味着什么？与媒体互动的方式会改变我们在世界上感受到“主动”的方式。假如我们看到的是静态的、不可改变的媒体，它会给你一种你无法改变世界的感觉。

所以，根据你的观点，我们在游戏中要做的一件事就是，让每个人都能真正影响游戏的结果。当你加入更多的智能体时，你会看到自己与某个智能体的互动会产生连锁反应。这个我很喜欢。实际上，我们在这里所做的一些事情也是如此，因此，当智能体相互作用时，真正的“魔力”就会发生。因为这不仅仅是看到一对一的互动，而是看到那些“涌现效应”的互动（emergent effect）。还有一点就是，如果你在电脑上的主要操作方法是点击鼠标，或者在游戏中弹跳和射击，那么我们在讨论的是，如果社交技能和互动像这样成为你与游戏、技术和智能身体互动的一种方式，这意味着什么？与按下按钮相比，这是一种完全不同的对话方式。这改变了你在世界上感知智能体的方式。由于我认为，大多数人通过说话、互动和与他人交流来改变世界，而非按下按钮。在某些情况下，按下按钮当然也是一种方式。

Brian S. Lowery： 您知道，另一件让我感兴趣的事情是，我认为每个人都不能真正理解他们的系统，对吗？每个人都把自己看作是个人关系中的存在，但是他们不能理解系统的影响。举例来说，我会影响你，你会影响你的伴侣，你的伴侣会影响他们的父母，对吗？这类事情比较难把握。但是我认为这实际上是人类的一个基本特征。你们会受到很多不同事物的影响，比如，今天我们请人给我们化妆，现在我看上去很漂亮，这也影响了我身边的每一个人。（笑）

Kylan Gibbs： 你在发亮。

Brian S. Lowery： 正因为如此。如何适应这个？我很少听到人们这样讨论，这让我很惊讶，因为我认为这是人类的核心——互动和复杂的社会场景。

Kylan Gibbs： 还有类似嵌套的系统，它们都是相互作用的，对吗？你们也许认为你们的小行为不会影响到更高层次的政治问题，但是这一切都是累积的，而且它们是相互关联的。我认为 AI 这个方面也很有意思，因为我经常听到人们把它当作一个进化过程。从单细胞生物到猴子再到人类，最后再到人类，你会听到一些说法， AI。实际上，你也可以把它反过来看：从细胞到器官，再到人类， AI。那是一个系统，只是因为它是基于我们的练习，而且当我们做这些事情的时候，实际上也会影响到这个系统。如今，人们与它互动，它就产生了这种相互作用。这个也很有意思，当 AI 它不再是一个单一的实体，而是一种像机构或系统一样弥漫着其它一切的出现。

Brian S. Lowery： 这也很奇怪，因为它反映了我们对自己的看法。当我们讨论通用人工智能时。（AGI）当时，我们甚至不知道什么是智商，但我们认为我们可以创造智力。当我们讨论它时，正如你所说，它似乎是自然进化的一部分，但事实上，我们正在创造它。我们不知道我们在创造什么。

Kylan Gibbs： 我认为最有趣的一件事是，我们在很早的时候就开始研究了。 AI。而且我觉得我们还处在探索自己的阶段。神经科学的发展还处于起步阶段，但我们已经开始创造基于自己智力的东西，我们甚至不完全理解我们的大脑是如何工作的。我们还不清楚你提到的影响。每年都会有新的研究论文出来，改变大家对如何抚养孩子的看法。现在我们正在创建的系统，在某种程度上会弥漫着其它人类。我不知道这意味着什么。我真的觉得，现在我们在这里。 AI 领域，这个时间点是偶然的。但是如果我们能停下来，花几个世纪的时间更好地了解自己，然后创造出和我们相似的东西，那将是有益的。由于现在有点像拍了一张照片，然后根据照片画了一幅画，但是你并没有真正画出那个人。生命中有些东西是缺失的。所以我同意你的看法。说实话，我觉得我们有点太早了，但这也许也是事物自然发展的一种方式。

Brian S. Lowery： 你在 AI 在这个领域工作，那么你认为 AI 这个领域最让你兴奋的是什么？您对此有何期望？

Kylan Gibbs： 感觉还是回到那个“主动”的问题。你知道，当你看新闻，看书，看电影，看电视节目的时候，尤其是在我的领域，有一种交流的方式。像我们现在这样，我会根据你说的和你的肢体语言进行调整，对吗？还有其他人在我们身边，这些都是互动的一部分。因此，当 AI 当你与事物互动时，你会感到一种主动性，这有助于这种适应。由于我认为我们应该有一个互通的时代背景，所以我不完全相信完全个性化的媒体。之所以看电影或者电视剧，是因为我们可以一起讨论，对吗？但是现在我们正在与这些互联网目标进行互动。技术的感觉是固定的——不管你是在屏幕上，还是在看电影， Netflix ——不管你做什么，这些感觉都不会改变。而且我认为这改变了我们对世界主动性的看法。所以我希望 AI 能打开通往主动的大门，改变我们与媒体和技术的互动方式，让我们真正认识到自己对系统的影响。即使是很小的影响，比如我采取了一些行动，它完全改变了一个应用程序或者感觉，也许可以帮助我们意识到我们正在影响我们的社会系统。

Brian S. Lowery： 所以你希望让我们的“主动”更加透明。您感觉到 AI 你能做到这一点吗？因为我现在不确定它是否模糊了我们的“主动性”。

Kylan Gibbs： 没有，我不确定。我同意你的看法，这就是为什么我认为媒体和游戏领域特别有趣，特别是因为年轻人使用它们很多。有些资深游戏开发者说，大家与游戏互动的方式，在一定程度上训练了孩子们如何与世界互动。所以，即使是那些在不同的游戏中成为职业玩家的人，也会有不同的心理特征，因为他们专注于某种特定的互动方式和看待世界的方式。我认为这类似于你在学术领域接受过训练，对吗？您将有不同的视角。所以，如果我们设计的游戏和媒体能够让人们感受到这种社会效应，也许它可以打开一个新的理解领域。但是，我同意，目前许多系统也可能给人一种虚假的“主动性”。举例来说，我们刚才讨论的 AI 这个系统，它让你觉得自己在控制这个东西，但实际上也许它也会影响你，甚至在某种程度上“控制”你。

Brian S. Lowery： 那您认为未来的发展趋势是什么？很明显，一些资源丰富的企业正在争相发展。 AI，对吧？和微软、谷歌一样，也许是最大的几个。这些技术很快就要开始商业化了，因为这就是这些企业存在的目的。你们看到了什么？因为我只需要看看社交媒体就能理解这一点。刚推出的时候，大家都很激动，以为这是一种新的与人联系的方式，一种保持联系的方式。您可以找到那些失去联系的人，与他人保持联系等等。但是它逐渐变成了其它东西，很大程度上是因为它的商业化方式，比如广告，致力于吸引注意力。AI 发展轨迹将如何？

Kylan Gibbs： 我只能猜测。

Brian S. Lowery： 是啊，当然，我们都在猜测，我不会因此而批评你，不用担心。

Kylan Gibbs： 就像我们之前提到的规模挑战一样，我认为现实。如果你在某些方面投资了数百亿美元，你就需要规模。我认为这是 AI 开发方法之一，尤其是我们目前使用的模型类型，其经济模型本质上是:计算资源越多，模型越好；模型越好，客户越多；客户越多，模型越好。所以，坦率地说，我认为这有点像垄断的趋势，不仅在结构上，而且在经济模式上。所以，我认为这些大公司开发的任何东西 AI 系统，几乎不可避免地会被推向快速扩展。它们有一些优点，比如它们建立了反馈循环，用户可以提供反馈，模型会根据反馈进行调整。但是同时，当一个单一的模型应该适用于十亿人的时候，这意味着什么？所以，这就是我之前提到的趋同效应。如果我们被迫制造出适合十亿人的东西，会发生什么？这里面有很大的多样性。而且我们创造的这些大型系统试图适应整个地球，这样可行吗？我认为我们将经历这样一个阶段：是的，十亿人将与同一个阶段相同。 AI 互动。不知会有什么影响。现在的商业模式可能是你需要付费使用这些模式。 AI，尽管这是可以接受的，但是广告肯定会进入其中。所以，当你需要吸引注意的时候，AI 表现可能与之相比 YouTube 和 Instagram 这个算法更好，你可以开始获得更多的关注。所以，我的确觉得，接下来的一段时间会很有意思。我们可以看到，这些大企业投资了数百亿美元，并做出了一些商业化的选择。 AI，将会对 AI 普及的影响是什么？

我认识许多在这些企业工作的人，他们从来没有对商业化感兴趣。但是，另一方面，他们也受到股票市场和资本的压力。这样会发生什么变化？这改变了激励制度，对吗？我们生活在资本主义的世界里，这就是为什么激励制度最终会发生变化。所以，是的，这很有趣。从你的背景来看，我很想知道，你对这些问题有不同的看法。你们知道，一切 AI 所有的话题都很有趣。但是回到你最初的问题：是什么使我们成为人类？伴随着技术的发展，尤其是 AI，在未来，每个人如何找到生命的意义，如何坚持自己认为真正的价值观？您认为随着新技术的到来，这些会发生什么变化？或是，随着技术的出现，这些方面发生了哪些变化？

Brian S. Lowery： 这个听起来可能有点奇怪，我个人认为每个人对技术的反应都太激烈了。以前我们也谈过这个话题，我认为人类自古以来就在使用技术。纸张是一项巨大的发明，印刷是一项巨大的发明，计算机是一项巨大的发明，因特网是一项巨大的发明，AI 而且很棒，是另一项巨大的发明。我认为，在所有这些技术中，你会看到一个共同点，那就是我们想要与他人联系的愿望。我认为，真正使我们成为人类的是我们与他人的联系能力。想法和其它事物当然是必要的前提，但是真正让我们成为人类的，是与他人的联系。这种联系是极其复杂的，我认为我们已经接近技术复制了这一点。即使你描述的是“感觉不对劲”的感觉——即使你认为这是正确的，它仍然会有一些错误的区域，你不能完全解释清楚。我认为我们还远远没有达到这个目的。

但是，因为这些技术设计主要是为了吸引我们的注意力，分散我们对其他事情的注意力，所以我认为它阻碍了我们做我们真正想做的事情——那就是与他人互动。这可能是一种改变我们互动的方式，让我们感觉不那么充实。在某些社会性中，我认为你已经可以看到这一点了。有些原因可能是最近的疫情，但是你知道，人们在面对面的交流中感到越来越不舒服。比如约会，现在没有那种偶然遇见任何人的惊喜，所有的选项都是由算法呈现给你的。那是一个完全不同的世界，而且这一切都发生在 AI 出现之前。我不知道 AI 在这方面会产生怎样的进一步影响。

Kylan Gibbs： 这个问题我想再深入探讨一下。您认为“连接需求”的核心是什么？我听一些家长说，疫情期间，他们的孩子经历了巨大的变化，他们的习惯退缩，他们的行为也发生了变化，因为他们无法与他人取得联系。这些影响可能需要几年的时间才能克服。因此，我也在想，不管是因为技术、疫情还是其它环境因素，我们是否会失去这种联系的需要？或者即便我们有这样的需要，我们也许会失去追求这种联系的冲动，承受情感创伤，但是仍然没有寻求联系。您认为这一需求的核心是什么？在这一需求中，我们能保持安全吗？

Brian S. Lowery： 我要给你一个极端的答案，但是我认为这是真的。如果你失去了人类联系的需要，你将不会成为一个完整的人类。你们可能是有形的个体，但是你们作为人类的存在将会崩溃。因此，由于人们在缺乏人际关系的情况下会崩溃，因此，社会隔离或单独监禁被称为不人道。由于缺乏人际关系，你会开始产生幻觉，精神和身体都会崩溃。所以在我看来，完全不可能失去这种需求。你们可能没有足够的联系，但是这样会对你们产生不利影响。每个人都不想碰别人，我不担心。

Kylan Gibbs： 您担心社交媒体或 AI 这种事情会让你觉得自己满足了这种联系的需要，但实际上并没有真正满足它吗？这个完全有可能，对吧？由于我们需要人际关系，所以单独监禁是一个很好的例子。如果没有这种联系，我们肯定会失去理智和健康。但是或许技术可以产生一种虚假的满足感，而且随着时间的推移，我们会看到心理健康困境的演变？

Brian S. Lowery： 那是个好问题。我觉得这种情况不太可能，但是我也不确定。老实说，我不知道。让我谈谈“意义”。我认为这与我们需要人际关系密切相关。有时候我觉得我们会把对“意义”的需要和对个人成就的渴望混淆。在追求个人成就时，我们实际上是在努力寻找意义。因此，我认为我们可能会感到困惑，并且可能会把这些需求引向一些不太有利的方法。但是我不认为这样的需求会消失。然而，这可能并非最健康的方法。

Kylan Gibbs： 是啊，我完全同意了。谢谢，布莱恩，这次谈话非常精彩。

Brian S. Lowery： 很高兴和你交流。的确很有趣，也很有启发。谢谢你。

原始视频链接：https://www.youtube.com/watch?v=CdK10Rcm9u9&t=6s