Hinton态度转变：对AGI从悲观到乐观

明敏 鹭羽 发自 凹非寺

量子位 | 公众号 QbitAI

Hinton突然对通用人工智能（AGI）变得乐观起来。几周前，他还觉得发展AI是养虎为患，可在最新的采访中，他却改口称AI与人类是一种母亲和婴儿之间的亲密共生关系。

大多数专家认为，5 - 10年后人工智能会比人类更聪明。然而，让更聪明的事物被不聪明的事物控制，这样的例子少之又少，或许政客和科学家之间勉强算这种关系（笑），但Hinton认为唯一合适的例子是母亲和婴儿，只不过在AI与人类的关系里，AI是母亲，人类是婴儿。

他觉得，我们不必去尝试支配超级智能，而是应该在设计AI之初就给它植入“母性本能”，让AI本能地希望人类幸福，从而实现与人类的共存。同时，对于AI的发展，也不必踩刹车，而是要引导其朝着正确的方向发展。

这和他过去3年来对AGI的态度几乎是180度大转变。2023年，为了警告AI风险，他从任职10年的谷歌离职，以更中立客观的角度向全世界讲述AI的利弊。77岁高龄的他仍奔走于全世界，呼吁人类可控地推进AI发展。就在今年7月的世界人工智能大会（WAIC）上，他还以“养虎为患”为例在中国阐释了AI风险。可才过去不到2个月，他的态度就发生了这样的变化，难道是他看到了什么？也许是Ilya向他展示了什么？

这些最新观点来自Hinton的最新访谈，此外，他还分享了对AI发展的更多理解，比如有机会一定要警告马斯克和奥特曼，而且现在没有一家AI公司足够重视AI安全等。

重新审视AI风险，但还是要喷马斯克奥特曼

Hinton接受了著名记者Katie Couric的独家访谈，对话时长近一个小时，核心探讨的还是他自谷歌离职后屡屡提及的AI风险。他将AI风险分为短期风险和长期风险，强调自己主要担忧的并非短期内对AI的滥用，虽然这也很重要，但他更担心人工智能本身接管人类的可能性。

在很多人眼里，AI比人类聪明并接管整个世界只是科幻小说里的情节，但包括Hinton在内的许多专家都认为，这是非常现实的长期风险。也许在未来的5到20年内，AI就会比人类聪明得多。这种聪明程度的巨大差异会让人类举步维艰，要反过来控制比自己更聪明的智慧生物，Hinton表示他唯一知道的例子就是母亲和婴儿，即把AI设计成母亲，人类则是在AI庇护下的婴儿。

这和他几个月前在WAIC上对人类和AI关系的认识截然不同。当时他将AI比喻为人类饲养的小虎崽，等它长大后就能轻而易举干掉人类。要杜绝这种可能性，人类要么训练它无法伤害人类，要么提前干掉它，但后者显然在当下不现实，因为我们的生活已经被AI完全渗透影响，所以只能选择引导AI。引导的方向就是母亲和婴儿的关系，在设计之初就为AI赋予强大的“母性本能”，让它们支持人类的成功，这样即使未来AI变得更加聪明、更加强大，也能与人类很好地共存。

不过，Hinton也提到，这是他希望看到的、值得深入探究的可能性，但也可能无法实现，这需要所有AI研发者一起通力合作，而马斯克和奥特曼显然不在此列。Hinton表示，假如有机会和他们两人共处一室，他会直白地说：“你们很清楚，你们正在发展的事业很有可能正在消灭人类。”

Hinton点评了当下几家AI公司在缓解风险上的表现，他认为没有一家做得足够好。Anthropic比其他家投入更多精力在AI安全，但还是不够；OpenAI初心是对的，但现在已经变味了；Meta和xAI在底层开发时都不关注AI安全。具体来说，他觉得OpenAI原本是想安全开发AI，可现在重心却偏移到让AI更聪明，而不是更安全。奥特曼转向快速开发AI的道路，让Hinton乃至马斯克都很反感，马斯克此前还曾起诉奥特曼没能履行最初的承诺。不过马斯克自己在开发Grok的过程中，也没有过多关注安全问题，Hinton指出，马斯克应该将他对待奥特曼的逻辑应用到自己身上。而他们二人这样做，主要是因为贪婪和自负，渴望通过AI攫取巨额财富，并希望成为第一个创造出超级智能的人，他们追逐的是创造超乎人类智能的兴奋感，而非守护人类的责任感。

AI的正向作用看医疗，但是也会取代一些工作

在AI应用落地方面，Hinton还是一如既往看好医疗领域，这一定程度上和他的个人经历有关，他的两任妻子都死于癌症，因此他非常希望AI能在医学领域有所突破。他认为值得关注的方面有5个：医学影像解读、加速药物研发、个性化和精准医疗、提升医疗系统效率、更高情感关怀。

在医学影像解读上，Hinton觉得AI能比人类医生获取更多信息，比如AI可以通过分析眼底（视网膜）的扫描图像，准确预测一个人患心脏病的风险，甚至能判断患者性别，这些都是人类做不到的。他承认自己在2016年预测“AI将取代所有医学影像医生”有点过于乐观，但坚信这只是时间问题，未来AI辅助诊断将成为常态。

在新药研发上，Hinton提到了DeepMind在预测蛋白质折叠上的突破，蛋白质的3D结构决定了其功能，能够准确预测对于研发与特定靶点相互作用的新药至关重要。比如在癌症领域，靶向药物比化疗这种传统治疗手段给人体带来的伤害更小。这项技术也将催生一个全新的产业，为我们带来一系列更有效的药物（不过不是1 - 2年之内）。

在个性化和精准医疗方面，AI可以整合大量医疗数据（包括基因组信息、病史、病历、家族病史），从而更好地实现疾病的早期诊断和个性化治疗。此外，AI也能解决医疗系统管理问题，比如通过数据分析，AI可以帮助医生更准确判断患者应当何时出院，这样能在确保患者得到充分治疗的同时又优化医院床位的使用效率。

最后，他还提出了一个反直觉的观点，一些研究表明AI在和患者交流时，比人类更有耐心、更具同理心，能提供更全面的信息和情感支持。

但是不可否认，AI落地、提高生产力的同时也将会导致一些人被取代。其中一些职业将会面临更高风险，如客服、律师助理、程序员等，甚至作家、编剧这种创意工作者也不能完全避免。Hinton认为，事实上AI在所有事情上都会比人类强，10年之后它能写出非常精妙的剧本。他觉得这些问题还会进一步加剧贫富差距等，不过这更多是社会问题，而非技术本身的问题。

好胜心极强的父亲：我得诺奖他会生气

最后访谈再次聊到了Hinton“显赫”的学术家族。他的曾曾祖父乔治·布尔 (George Boole)是著名数学家和逻辑学家，是布尔代数的提出者，布尔代数是现代计算机科学和数字电路的理论基石；曾叔祖父塞巴斯蒂安·辛顿 (Sebastian Hinton)是儿童乐园里常见的攀登架的发明者；父亲霍华德·埃弗里斯特·亨顿（Howard Everest Hinton）是英国昆虫学家，英国皇家学会院士；姑妈琼·辛顿 (Joan Hinton)，中文名寒春，是核物理学家，参加了曼哈顿计划。

Hinton说他的父亲是一位强势、好胜心极强的人，对子女都有很高期待。父亲给他的“激励”往往是：等你的岁数有我2倍大、且工作强度是我现在的2倍时，你的成就或许也就只有我的一半吧。虽然这句话是半开玩笑，但也给年少的Hinton带来了很大压力。不过从现在的知名度来看，Hinton超越了父亲。

所以，如果父亲知道Hinton获得了诺奖，他会有怎样的反应呢？Hinton觉得父亲会非常高兴，但又有点生气，因为他确实非常好胜（笑）。父亲会为儿子骄傲，但儿子又获得了他没有的成就。

也是在这样的家族背景下，Hinton对于AI始终有着至高的学术追求，在晚年时期他也将引导AI正向发展视为己任。所以我们看到，77岁高龄且患有严重腰伤的他开始频繁出现在公众视野，通过一次次访谈、演讲去向更多人传递对AI的正确认识。他很高兴大家愿意听他的分享与讨论，在这次访谈里他也专门提到今年和中国方面取得联系，在WAIC上，我们也看到了他在中国第一次公开演讲。但我们也知道，Hinton还不会停下，他还会为AI的正向发展继续、不断奔走。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com