Ilya正式宣布辞职，对齐负责人Jan直接辞职，OpenAI还是分手了。

今天，OpenAI 创始人，首席科学家 Ilya Sutskever 发推宣布辞职。

在 OpenAI 工作近 10 几年后，我决定离开。OpenAI 这条发展轨迹可谓奇迹，我相信， OpenAI 会到 Sam Altman、Greg Brockman 和 Mira Murati 在领导下，以及 Jakub Pachocki 在优秀的研究指导下，建设安全有益 AGI。

我很荣幸能一起工作，我会非常想念你。这么久了，谢谢你们所做的一切。我对接下来发生的事情感到兴奋。接下来的项目对我来说很有意义，我会在适当的时候分享细节。

Ilya Sutskever 还分享了与 Sam Altman、Greg Brockman 和 Mira Murati 等待合照。

OpenAI CEO 在推特上，奥特曼发了一条消息，Ilya 与 OpenAI 各奔东西都很伤心。

Ilya 毫无疑问，它是我们这一代最伟大的思想家之一，是我们领域的指路明灯，也是我最好的朋友。他的才华和远见是众所周知的；他的温暖和同情没有那么广为人知，但同样重要。

没有他，OpenAI 不会是今天的样子。虽然他有一件对她有重要个人意义的事情要做，但我总是感谢他在这里做的一切，并致力于完成我们共同开始的使命。我很高兴能够如此接近这样一个真正非凡的天才，如此专注于给人类带来最好的未来。

Jakub Pachocki 我们将成为新的首席科学家。Jakub 毫无疑问，它是我们这一代最伟大的思想家之一；我很高兴他会在这里接过接力棒。他负责我们许多最重要的项目，我相信他会带领我们快速安全地走向通用人工智能。（AGI）造福所有人的使命前进。

即将成为下一个 OpenAI 首席科学家 Jakub Pachocki 还有自己的前任 Ilya 表示感谢。

Ilya 多年来，我一直是我的导师和伟大的合作者，把我带入了一个深度学习的世界。他对深度学习的不可思议愿景变成了 OpenAI 和 AI 现在这个领域的基础。非常感谢他和我们进行了无数次的对话，从相关的 AI 未来前进的高层讨论，到深入的技术白板大会。Ilya，我会怀念和你一起工作的日子。

据 OpenAI 网站介绍，新任 OpenAI 首席科学家 JakubPachocki 拥有卡内基梅隆大学理论计算机科学博士学位， 2017 多年来一直领导 OpenAI 变革研究计划。在此之前，他曾担任过 OpenAI 研究总监，也是开发 GPT-4 和 OpenAI Five 领导者，也包括大规模的领导者 RL 以及深度学习提升的基础研究。

OpenAI 表示：「为了扩大深度学习体系，他重新调整了公司愿景，发挥了重要作用。」

至此，Ilya Sutskever 和 OpenAI 八年的故事结束了。

与 Ilya 同步宣布离开的，还有很对齐团队的共同领导。 Jan Leike。

而且我们都记得，2023年7月才建立了一个非常对齐的团队，目标是「在 OpenAI 在大量计算的支持下， 2027 每年解决这一问题(对齐)。」

现在，两人同时离开，只留下未竟的事业。 Ilya 在下一步的计划中，「非常对齐」到底要不要做？

童年生活动荡，本科期间拜入。 Hinton 门下

事实上，即使在一个没有的时候， OpenAI 的世界中，Ilya Sutskever 仍然会载入人工智能史册。

Ilya Sutskever 他出生在前苏联，五岁时和家人一起移民耶路撒冷(所以他精通俄语、希伯来语和英语)，2002年。 每年搬到加拿大生活。

在多伦多大学读本科期间，Ilya Sutskever 从一个叫做「在随机领域改进嵌入式算法」项目开始，开始和开始。 Geoffrey Hinton 合作，后来在攻读博士学位时正式加入。 Hinton 团队。

我们都熟悉后来的事情：2012 年，Hinton 带着 Ilya Sutskever 还有另外一个研究生 Alex Krizhevsky 建立了一个名字 AlexNet 神经网络，其识别照片中物体的能力远远超过了当时的其它系统。

Ilya Sutskever（左）、Alex Krizhevsky（中）、Geoffrey Hinton（右）

Geoffrey Hinton、Yann LeCun、Yoshua Bengio 成为深度学习三巨头，并在 2018 每年都有图灵奖获奖，获奖的理由是「神经网络方面的研究成果」。

但当 Ilya Sutskever 在 21 世纪初加入 Hinton 在团队中，大多数人工智能研究者认为神经网络是一条死路。

「由于与 Geoffrey 合作，我有机会研究一些这个时代最重要的科学问题，并追求大多数科学家极不认同，但事实证明，这是完全正确的。」Ilya Sutskever 后来在一次采访中说。

AlexNet 这是深度学习的爆发。经过多年的失败，他的团队最早证明了模式识别问题可以解决。 —— 秘密决定是一种深度神经网络，经过大量的数据和计算率训练。

这一理念从计算机视觉延伸到自然语言理解领域，同样是 ChatGPT 取得今天成就的关键因素，包括 Sora 这两点对于视频生成的成功也是不可或缺的。

2012 年毕业后，Ilya Sutskever 跟随吴恩达在斯坦福大学做了两个月的博士后，又回到多伦多大学，加入了多伦多大学。 Hinton 研究小组的衍生公司 DNNResearch 。

2013 年 3 月，Google 收购了 DNNResearch，聘请了 Ilya Sutskever 担任 Google Brain 研究科学家。

「Ilya 对于知识一直很感兴趣，」现任谷歌首席科学家 Jeff Dean 说：「对于事物的发展方向，他有很强的直觉。」

在谷歌，Ilya Sutskever 在数据序列中展示了如何深入学习的模式识别能力，包括单词和句子。他和他 Oriol Vinyals 和 Quoc Le 在序列中创建合作序列(Seq2seq）学习算法，深度参与 TensorFlow 研究，也是如此 AlphaGo 许多论文作者之一。

加入 OpenAI，带头 GPT 系列研发

对于知识的浓厚兴趣，或许会促进 Ilya Sutskever 加入 OpenAI 的步伐。

2015 年 7 月，Ilya Sutskeve 参与了 Y Combinator 总裁 Sam Altman 在 Sand Hill Road 一家餐馆举行的宴会，在那里遇见了 Elon Musk 和 Greg Brockman。

那个晚宴诞生了 OpenAI。在场的人就一件事达成了共识:这需要一个没有任何竞争激励机制的非营利组织来淡化其使命，也需要世界上最好的人工智能研究人员。

2015 年末，Ilya Sutskever 以「研究总监」头衔开始领导 OpenAI 这一组织的研究和运作也吸引了世界上几位著名的人工智能研究者，包括「GAN 鼻祖」 Ian Goodfellow、UC 伯克利的 Pieter Abbeel 以及 Andrej Karpathy。

这个新公司拥有它 10 资金支持亿美元，来自 Sam Altman、Elon Musk、Peter Thiel、Microsoft、Y Combinator 而其他公司，从一开始就把目光投向了其他公司。 AGI，即使在那个时候，很少有人认真对待这个前景。

不过，最初的 OpenAI 但是举步维艰。Ilya Sutskever 说：「在咱们启动 OpenAI 有一段时间，我不确定如何继续取得进展。但是我有一个非常明确的信念，那就是我不能和深度学习赌博。不知怎么的，每次遇到障碍，研究人员都要在半年或者一年内找到绕过它的方法。」

2016 年，OpenAI 的第一个 GPT 出现了大型语言模型。 GPT-2 到 GPT-模型能力越来越强，证明了这条路线的具体准确性。每次发布，OpenAI 每个人的想象力上限都在不断提高。

但 Ilya Sutskever 但透露，真正让步 OpenAI 出圈的 ChatGPT 公司内部对此的期望值在发布时非常低：「当你问它一个事实问题时，它会给你一个错误的答案。我以为会不起眼，大家都会说:你为什么这么做？太无聊了！」

将 GPT 模型包装在易于使用的网页上，并且免费开放，让数十亿人首次了解到 OpenAI 正在建造的东西。在此之前， ChatGPT 大型语言模型在背后已经存在了几个月。

ChatGPT 创始团队的成功，引起了前所未有的关注。

2023 年，OpenAI 首席执行官 Sam Altman 在外联旅行了几个星期之后，花了大半个夏天的时间。 —— 与政治家交谈，在世界各地座无虚席的礼堂发表演讲。

作为首席科学家，Ilya Sutskever 保持低调的风格，不经常接受采访。与其他公司创始人不同，他们是公众人物，但他们把更多的精力放在了上面。 GPT-4 上。

他对讨论自己的个人生活不感兴趣：「我的生活很简单。去工作，然后回家。我不做别的事。一个人可以参加很多社交活动，参加很多活动，但是我不会去。」

ChatGPT 结果给他带来了什么？

今年早些时候，Hinton 曾经公开表示害怕自己协助发明的技术：「我从来没有见过更全面的智能水平的东西被远低智能水平的东西控制的例子。」

作为 Hinton 的学生，Ilya Sutskever 这句话没有发帖，但是他对超级智能负面影响的关注表明他们是同道中人。

随着 GPT-4 以及后续一系列更强大的大语言模型更新， Ilya Sutskever 这是代表的一部分 OpenAI 成员们越来越担心 AI 可控性问题。

在 OpenAI 沸沸扬扬的「宫斗」事件之前，Ilya 曾受到过 MIT 采访科技评论记者。

他指出，他的工作重点不再是制造下一代。 GPT 或者图像制造机 DALL-E，而是研究如何阻止人工超级智能的失控(他认为这是一种假设性的未来技术，具有远见)。

「Sutskever 还告诉了我很多其他的事情。 —— 他认为 ChatGPT 也许有目的(如果你眯着眼睛看的话)。」这位记者写道。

Ilya Sutskever 感觉，世界需要清醒地认识到。 OpenAI 以及其他公司正在努力创造的技术的真正力量。同时，他也认为，总有一天人类会选择与机器结合。

人工智能水平一旦超过人类，人类应该如何监督比我们聪明得多的人工智能系统？

OpenAI 在 2023 年 7 月建立了「非常对齐」（Superalignment）该团队的目标是在四年内处理超智能。 AI 对齐问题。Ilya Sutskever 它是这个项目的领导者之一，OpenAI 表示会把 20% 计算率是专门用来研究这个项目的。

一次采访中， Ilya Sutskever 大胆地推测，如果模型能很好地预测下一个词，那就意味着它能理解造成这个词的深刻现实。如果是这样，那就意味着 AI 按照现在的路径发展下去，也许在不久的将来，一个超越人类的人工智能系统就会诞生。但是更令人担忧的是，「超人工智能」也许会带来一些意想不到的负面后果。这便是「对齐」的意义。

该团队的第一个结果发表在这个团队。 2023 年 12 月：使用 GPT-2 监督等级的小模型 GPT-4 可以获得接近等级的大型模型 GPT-3.5 等级性能，开辟了对超人模型进行实证对齐的新研究内容。

同时，OpenAI 宣布与 Eric Schmidt 合作，开始了一个项目 1000 为确保超人类人工智能系统的一致性和安全性，万美元资助计划支持技术研究。

伴随着两个团队领导的离开，对齐团队的未来变得有些渺茫。

与 OpenAI 创业团队决裂

就今天的结果而言，Ilya Sutskever 应当是和 Sam Altman 所代表的派系产生了不可消除的矛盾。

由于关于「宫斗事件」的过程，OpenAI 董事长兼创始人 Greg Brockman 说法是：

Sam 接受首席科学家 Ilya Sutskever 发送要求周五中午通信短信。Sam 用 Google Meet 除了这次会议，我参加了会议。 Greg 此外，整个董事会成员都参加了这次会议。Ilya Sutskever 告知 Sam 他被解雇了，消息很快就传开了。

当天中午 12:19，Greg 收到 Ilya Sutskever 发送短信，要求尽快通过电话沟通。12:23，Ilya Sutskever 收到 Google Meet 大会链接。Greg 有人告诉他，他从股东大会中除名(但是他对公司特别重要，并且会保留他的职位)， Sam 已被解雇。大概在同一时间，OpenAI 公告已经发布。

OpenAI 在公告中称 Altman 对于股东会来说不够坦诚。有些人解释如下：OpenAI 也许已经在内部完成了 AGI，但是没有及时同步消息给更多的人，为了避免这项技术被大规模应用，没有经过安全评估，Ilya 等待按下紧急停止按钮。

据 The Information 的报道，在 OpenAI 当天举行的全员会议，Ilya Sutskever 承认员工说的话是一个场合。「政变」。他指出「你们可以这么说(是政变)，但是我认为这只是董事会在履行职责。」

这一切当然都只是猜测。

11 月末，Sam Altman 正式回归 OpenAI。大局已定，Ilya Sutskever 不要马上离开 OpenAI，但是也没有再出现 OpenAI 旧金山办公室。

Sam Altman 表达对 Ilya Sutskever 谢谢，并希望继续彼此之间的工作关系：「我尊敬和热爱 Ilya，在我看来，他是这一领域的指路明灯，也是人类的瑰宝。我对他的恶意为零。」

Y Combinator 投资总经理 Dalton Caldwell 曾回忆：「我记得 Sam Altman 说过 Ilya 他认为，他是世界上受人尊敬的研究者之一。 Ilya 能吸引许多顶尖的人工智能人才。他甚至提到，世界顶级人工智能学者 Yoshua Bengio 感觉，找不到比例 Ilya 更好的候选人来担任 OpenAI 首席科学家。」

最后接任的 Jakub Pachocki，或许也是 OpenAI 股东将仔细考虑未来的选择。Jakub 2017 年就加入了 OpenAI，那是他离开学校后的第一份工作。

What did Ilya see?

关于 Ilya 离开 OpenAI 这个谣言实际上已经传播了很长时间。 OpenAI 发生「宫斗」、Sam Altman 被赶出 OpenAI 那时，有人传言说 Ilya「看见一些东西」，这是足够强大的东西，让他对 AI 担心未来，并重新思考。 AI 发展。但是他到底看到了什么，目前还没有人知道。

其实，Ilya 这种担心不是真的 ChatGPT 只有出来之后才有。在拍摄于 2016 年到 2019 一段2008年的视频，Ilya 曾表示，在 AGI 实现的那一天，AI 人类可能并不讨厌，但是他们对待人类的方式可能就像对待动物一样。人类可能无意伤害动物，但是如果你想修建一条城际高速公路，你不会向动物寻求建议，而是直接去做。面对这样的情况，AI 也许还会自然而然地做出类似的选择。这是 Ilya 的 AI 哲学观。

它解释了为什么 Ilya 总是对 AI 进步忧心忡忡，专注于进步， AI 对齐（让 AI 与人类价值观相匹配)工作。

Ilya 何去何从？

同样是半途而废 OpenAI 马斯克的创始成员 Ilya Sutskever 抛出橄榄枝，表示 Ilya Sutskever 应该加入特斯拉或者 xAI。那是他的下一步计划吗？

鉴于加州没有禁止竞争的规定，Ilya Sutskever 可立即到另一家公司工作或创办另一家公司。

另外一个著名的人 OpenAI 员工 Andrej Karpathy 就曾在离开 OpenAI 接着放入特斯拉，然后从特斯拉回来 OpenAI，不久前又宣布离开。2023 年底的「宫斗事件」发生时，Karpathy 休假的时候，完全是「局外人」，但却比 Ilya 提前办理离职手续。

真相到底是什么？不知还有没有机会知道。

Ilya Sutskever 说了很多话也许有点狂野，但是现在看这个节点，已经不像一两年前那样让人感觉到了。「疯狂」那个。正如他所说，ChatGPT 已改写了许多人对未来的期望，「永远不会发生」变成了「它会发生得比你想象的更快。」。

参考链接：

https://twitter.com/sama/status/1790518031640347056

https://twitter.com/ilyasut/status/1790517455628198322

本文来自微信微信官方账号“机器之心”（ID:作者：机器之心，36氪经授权发布，almosthuman2014)。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com