OpenAI的重大变革,能否消除两大派系的矛盾?

09-05 23:54

腾讯科技讯 9月4日,据外媒报道,OpenAI作为科技行业进入AI的旗手,正在努力转型为以盈利为主导的公司,满足大家对AI安全的需求。目前,OpenAI正在对管理团队甚至组织方式发生重大变化,希望能帮助其从一些富裕的敌人公司获得投资。


图:OpenAI CEO山姆·奥特曼招募了一批有经验的技术高管。


近几个月来,AI在线聊天工具ChatGPT开发商OpenAI聘请了一批科技高管、虚假信息筛选专家和AI安全研究人员。另外还加入了7名董事会成员,其中包括一名执掌美国国家安全局(National Security Agency)四星陆军上把。与此同时,该公司也在努力确保其AI技术不会对人造成严重伤害。


OpenAI也在和谐 为了实现估值1000亿美元的交易,微软、苹果、英伟达与投资公司Thrive等投资者进行了谈判。OpenAI正在考虑改变其公司结构,以增加对投资者的吸引力。


作为一家位于旧金山的创业公司,OpenAI在管理层和一些顶尖研究人员之间经历了长期的公开矛盾,但现在它正在努力把自己的形象变得非常严肃和成熟,准备引领科技行业进入AI。去年,公司首席执行官山姆·奥特曼 (Sam Altman)管理模式的斗争十分引人注目,现在OpenAI也试图淡化相关矛盾。


然而,媒体采访了20多名现任和前任OpenAI员工和董事会成员,表明这一过渡相当困难。一方面,新员工和新高管正在涌入,另一方面,公司的初始员工仍在流失。快速增长尚未解决 根本问题“什么是OpenAI”:它是为人类利益而建立的尖端AI实验室,还是一个有远大利润野心的行业巨头?


新任高管到位,老年人才流失


目前,OpenAI拥有1700多名员工,其中80%是在ChatGPT于2022年11月发布后加入公司的。奥特曼和其他公司高管主持了新高管的招聘工作,而新任董事长、前脸书高管布雷特·泰勒(Bret Taylor)对董事会的扩张负责监督。


泰勒在媒体的一份声明中表示:“虽然创业公司必须随着其影响力的增长而自然发展和增加,但我们意识到OpenAI正在以前所未有的速度经历这一转型。“我们的董事会和 OpenAI的专业团队仍然致力于为每个人建立一个安全的AI来解决问题。


一些新高管曾经担任过其它科技公司的重要职务。莎拉·法瑞尔是OpenAI的新首席财务官。 (Sarah Friar)曾经是Nextdoor的首席执行官。官凯文·威尔·威尔是OpenAI的新首席产品(Kevin Weil)曾经担任Twitter的商品高级副总裁。本·尼莫(Ben Nimmo)曾经在Facebook领导与欺骗性社交媒体活动作斗争。华金·坎德拉(Joaquin Candela)Facebook曾经负责监督降低AI风险的努力。现在,这两个人也在OpenAI中扮演着相似的角色。


上周五,OpenAI还强调,克林顿在白宫担任总统阶段的老手克里斯·勒汉。(Chris Lehane)这家公司将成为全球政策的负责人。今年,他曾在Airbnb担任高级职务,并加入OpenAI。


然而,在2015年底,只有三个人一起创建了OpenAI。当时,他们的使命是创建通用人工智能。(AGI) ,一种可以做人脑所能做的任何事的装置。其中一个是公司总裁格雷格·布罗克曼(Greg Brockman),由于工作近十年后需要休假,他已经休假到年底。


“这种人员调整是很常见的,但我们在聚光灯下,一切都被放大了。”OpenAI的首席战略官杰森·权利(Jason Kwon) 说到这里,扩大公司的规模真的很难。你们必须不断地衡量它。有些人可能不喜欢这些决定。扩大规模会使事情更加复杂。


OpenAI的宗旨从最初的非营利性研究实验室开始就备受争议。马斯克是2018年公司的主要支持者。(Elon Musk)与其他创始人发生矛盾后离开。2022年初,一批主要研究人员担心OpenAI技术在商业力量不成熟的情况下会推向市场,于是成立了AI公司Anthropic,成为OpenAI的竞争者。


由于类似的焦虑,OpenAI的股东会在去年年底突然解雇了奥特曼。但是五天之后,他又回到了自己的位置。


OpenAI部分员工质疑奥特曼,部分员工不想成立常规科技公司,更想从事尖端研究。此外,还有一些差异。例如,OpenAI试图从公共声音指责公司的员工那里收回它 OpenAI股票,这种股票可能值几百万美元。结果,一名研究人员愤怒地辞职了。 ,此后,OpenAI撤销了这一行为。


OpenAI 两个主要驱动力


OpenAI由两种力量驱动,这两种力量并非总是相容的。


一方面,公司是由许多和许多金钱驱动的。一位知情人士表示,该公司的年收入已超过20亿美元。ChatGPT每周用户超过2亿,是9个月前的两倍。目前还不清楚公司的年支出是多少,但估计有70亿美元。微软是OpenAI的最大投资者,投资130亿美元。


但是OpenAI为了寻求更多的投资,正在考虑对公司结构进行重大变更。现在, OpenAI股东大会(成立为非营利组织)掌握了该公司,投资者没有进行官方干预。三位知情人士透露,OpenAI作为新融资讨论的一部分,正在考虑做出改变,让公司结构对投资者更有吸引力。目前还没有确定新的结构。


OpenAI的另一个驱动力是很多AI研究人员(包括一些OpenAI员工)对技术的担忧。它们认为这些技术有助于传播虚假信息,促进黑客攻击,甚至摧毁人类。这种紧张关系导致了去年11月的矛盾,包括伊利亚·萨茨克弗弗,当时首席科学家和创始人。(Ilya Sutskever)其中四名董事会成员免除了奥特曼。


在获得公司控制权后,奥特曼上空弥漫着一片乌云。萨茨克弗再也没有回到OpenAI工作。


萨茨克弗博士曾与另一位研究人员延·雷克(Jan Leike)Superalignment团队在OpenAI共同成立,旨在探索一些方法,以确保公司未来的技术不受伤害。


今年五月,萨茨克弗博士离开OpenAI,成立了自己的AI公司。不久,雷克博士也离开了OpenAI,加入了Anthropic。他说:“安全文化和流程已经使产品闪闪发光。



图片:萨茨克弗博士5月份离开OpenAI,成立了自己的AI公司。


其它人也跟随他们走出了OpenAI的大门。


最近离开公司的研究员威廉·桑德斯最近离开了公司的研究员,“我仍然担心OpenAI和其他AI公司没有合适的计划来管理他们筹集了100亿美元建立的尖端AI系统的风险。(William Saunders)说。


OpenAI在萨茨克弗博士和雷克博士离开后,将他们的工作转移给另一位创始人约翰·舒尔曼。(John Schulman)。过去,Superalignment团队专注于多年后可能出现的危险,新团队探索了近期或长期的危险。


OpenAI聘请了法瑞尔女性担任首席财务官(她以前在Square担任过同样的职务),威尔先生担任首席产品官。


图片:OpenAI为ChatGPT推出了一个名为“代码编译器”的新功能。


一些前高管要求匿名接受采访,因为他们签署了保密协议,他们认为OpenAI之前的烦恼可能不会消失。其中三人提到了亚力山大·马德利(Aleksander Madry),Preparedness团队曾在OpenAI领导下探索灾难性的AI风险。在他和他的团队如何融入更多的组织之后,马德利博士又转向了另一个研究项目。


当一些员工辞职时,他们被要求签署法律规定——如果他们公开批评公司,他们将失去OpenAI的股票。这在员工中引起了新的担忧,即使公司后来撤销了这一行为,担忧也没有消退。


六月初,托多尔·马尔科夫研究员(Todor Markov)公司内部新闻系统发布了一条消息,宣布他因公司此类行为离职。


他说,OpenAI的领导在这个问题上一再误导员工。正因为如此,他不敢相信公司的领导会建立通用人工智能AGI。 ——当奥特曼被解雇时,这与公司董事会的话是一致的。


他写道:“你经常提到我们有责任安全地发展AI,并广泛分配它带来的好处。“我们怎么能相信你能承担这个责任呢?”


图片:美国国家安全局前主管、退伍将军保罗·中曾根是OpenAI股东大会的一名新成员。


几天后,OpenAI宣布美国退役军事将军保罗·中曾根(Paul M. Nakasone)加入股东大会。最近在一次采访中,有人问他如何看待这个新环境。


“有人认为我刚接触AI。事实上,我对AI并不陌生。”他在接受电话采访时说。“我管理过美国的国家安全局。多年来,我一直在处理相关事情。


上个月,在OpenAI主持新安全工作的创始人舒尔曼博士也离开了公司,加入了这家公司。 Anthropic。他说想再一次回到能“自己动手”的技术工作上来。


本文来源于“腾讯科技”,作者:云开,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com