突发，Ilya 新公司正式宣布成立 SSI，只专注于安全超级智能。

自前 OpenAI 创始人，首席科学家 Ilya Sutskever 一个月后，官宣辞职，Ilya 最后终于有了新消息：成立新公司 SSI，致力于超级智能的安全。

今日凌晨，Ilya 在 X 上面“官宣”了这个消息。

Ilya 写道，“我们将直截了当地追求安全超智能（safe superintelligence，SSI），只有一个重点，一个目标和一个产品。。这个目标将通过一个小小的精干团队所取得的革命性突破来实现。

接受彭博社采访时，Ilya 表示，“它完全不受外界压力的影响，不需要处理庞大而复杂的商品，也不需要陷入竞争激烈的赛跑。。”

据 SSI 根据企业官方消息，他们通过革命性的工程和科学突破解决了安全和能力作为技术问题，并计划尽快提高自己的能力，同时确保我们的安全始终处于领先地位。

这样，我们就可以安心地扩大规模。

“我们的专注意味着我们不会受到管理成本或产品周期的影响。我们的商业模式意味着短期的商业压力不会影响安全、安全和进步。”

以下是完整的公告：

超智能已触手可及

在我们这个时代，构建安全的超级智能是最重要的技术问题。

世界上第一个致力于安全的超级智能实验室已经启动，目标和商品只有一个：安全超级智能。

它的名字叫 Safe Superintelligence Inc.。

安全超智能是我们的使命、名称和整个产品路线图，因为它是我们唯一关注的问题。我们的团队、投资者和商业模式都是为了实现。 SSI 而努力。

我们以安全和能力为技术问题，通过革命性的工程和科学突破来解决。我们计划尽快提高我们的能力，同时确保我们的安全始终处于领先地位。

通过这种方式，我们可以放心地扩大规模。

我们的专注意味着我们不会受到管理成本或产品周期的影响，我们的商业模式意味着短期的商业压力不会影响安全、安全和进步。

我们在美国成立了这家公司，目前在帕洛阿尔托和特拉维夫设立了办事处。在那里，我们有着深厚的基础和招聘顶尖技术人才的实力。

我们正在组建一支由世界上最好的工程师和研究人员组成的高素质、高效率的团队，只专注于安全和超智能，而不是其他。

假如你是这样的人，我们将为你提供一个机会，帮助你解决我们这个时代最重要的技术挑战。

现在是时候了。加入我们

Ilya Sutskever, Daniel Gross, Daniel Levy

2024 年 6 月 19 日

几十年来，研究人员一直在思考如何使人工智能系统更加安全。目前的技术水平是利用人类和人工智能引导软件朝着符合人类最佳利益的方向发展。在很大程度上，如何阻止人工智能系统失控仍然是一个哲学问题。

正如公司名称所强调的那样，Ilya 把人工智能的安全放在第一位。当然，关键在于确定是什么让人工智能系统比另一个系统更安全，或者是什么让人工智能系统更安全。。

Ilya 他说，他花了几年时间思考安全问题，并且已经想到了一些方法。但是具体的细节还没有透露出来。

但是他说，新公司将尝试通过人工智能系统中的工程突破来实现安全，而不是依靠临时应用于技术的保护措施。他说，"我们所说的安全是指像核安全这样的安全，而非‘信任与安全’那样的安全."

“我们可以说，我们希望这是一种善良的力量。我们希望它能在一些关键价值观的基础上运行。我们考虑的一些价值观可能是过去几百年取得巨大成就的价值观。”

除了 Ilya，SSI 公司还有另外两个创始人。其中一个是投资者，前苹果的人工智能主管Daniel Gross，由于支持的原因，他包括 Keen Technologies 其中有许多备受关注的家庭。 AI 创业公司备受关注；另一位创始人是Daniel Levy，他曾在 OpenAI 与 Ilya 一起共事。

鉴于 Ilya 近几个月来，人工智能行业几乎处于神话般的地位，其身份不确定性一直是硅谷的焦点。作为一名大学研究员和谷歌后来的科学家，他在人工智能发展的一系列关键进展中发挥了重要作用。他在 OpenAI 早期参与协助 OpenAI 吸引了对他的成功十分重要的顶级人才，他也因提倡建立越来越大的模型而闻名， ChatGPT 它的崛起起着至关重要的作用。

Ilya 说，大型语言模型将在安全超级智能中发挥重要作用，但是它们的目标是更强大的物品。对于现在的系统，“你和它说话，然后你就完成了”。他追求的系统将更加实用和可扩展。“你说的是一个巨大的自主研发技术非常数据中心。这疯了吗？我们希望为它的安全做出贡献。"

参考链接

https://twitter.com/ilyasut/status/1803472978753303014

https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab

本文来自微信微信官方账号“学术头条”（ID：SciTouTiao），作者：学术头条，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com