揭秘Ilya新公司：背靠5吨GPU，做核能级安全

06-22 01:28

智慧东西6月20日消息，今天上午，OpenAI联合创始人和前首席科学家Ilyaa，一个多月前正式离开OpenAI。 Sutskever在社交平台X上正式宣布，他将自己建立。世界上第一个直接针对安全超级智能的AI实验室——Safe Superintelligence Inc.（SSI，超级安全智能)。

在官网上，SSI写道，SSI只有一个目标和一个产品：安全超智能。在追求安全和AI能力的同时，公司将采取革命性的工程和科学突破，优先确保安全。

由于SSI的目标很明确，他们不会因管理费用或产品周期而分心，短期商业压力不会影响短期商业压力。企业创始人具有丰富的从业背景和极高的声誉，融资不会成为SSI面临的难题。。

SSI强调，该公司目前正在组织一个精锐的团队，这些团队由优秀的工程师和研究人员组成，他们致力于实现安全和超级智能。他们在美国帕洛阿尔托和以色列特拉维夫设立了办公室，因为三位创始人在当地积累了大量的人脉。

另外两位创始人和Ilya一起创办SSI，是Danielya。 Gross和Daniel Levy。Daniel Gross是AI行业的老手，十几岁时就创建了搜索引擎Greplin(后来更名为Cue)，21岁时Cue被苹果收购，他还加入了苹果领导AI和搜索部门。2017年他离开苹果，去硅谷著名孵化器Y Combinator创建了一个主要负责AI投资的项目。另一位创始人Daniell 毕业于斯坦福大学的Levy在OpenAI和Ilya一起工作了一段时间。

▲三位SSI创始人(从左到右)：Daniel Gross、Ilya Sutskever、Daniel Levy）

01.将实现“核能等级”的安全水平，一步到位直达超级智能。

Ilya和其他两位创始人对AI安全问题的承诺直接以“安全超级智能”命名公司。SSI在官网上写道，超级智能触手可及，构建安全超级智能是我们这个时代最重要的技术问题。

Ilya昨天在接受彭博的独家采访时透露，“这家公司的特别之处在于，它的第一款产品将是安全和超智能，在此之前它不会做任何其他事情”。SSI唯一的使命就是实现安全和超智能，这也是他们的整个产品路线图。

SSI团队、投资者和商业模式都致力于实现SSI。Ilya表示，公司不会面临处理大型复杂产品的问题，也不会陷入激烈的竞争。

Ilya没有明确分享SSI将如何安全实现超级智能。然而，他向彭博透露，该公司将尝试通过AI系统内部的项目突破来提高安全性，而不是依赖系统外部的“护栏”技术。公司产品的安全水平将是核能级的其他安全，而不是互联网公司经常谈论的信任和安全（Trust and Safety）里面的那种安全。

AI安全一直是Ilya最关心的问题。去年7月，他在OpenAI领导处理指导和控制超级智能系统问题的4年内，成立了一个非常对齐的团队。然而，随着OpenAI内部的人事动荡和权力斗争，该部门已经基本解散。

Ilya多次公开谈论AI安全问题。去年11月，他发表了一篇TED演讲，向公众普及了AGI(通用人工智能)道路上可能出现的安全风险。

他还参与了一部关于AI的纪录片，分享了他的AGI世界观和担忧。他在这部纪录片中说，如果不介入，自然选择的规则会偏向于那些优先保护自己利益的AI系统，届时人类利益可能会受到损害。

事实上，当Ilya于5月15日正式宣布离开OpenAI时，她已经告诉自己下一步会有大动作。当时他在推文里写道，他对即将到来的事情非常兴奋，这对她个人来说非常有意义。

02.不缺钱，不缺算率，不缺人才，创始人资金人脉雄厚。

创始人的背景给了SSI足够的信心，让他们可以在公司官网写下“我们不受短期商业压力的影响”的表达。作为目前AI行业的顶级人物，Ilya在宣布创业新闻后受到了广泛关注，有网友呼吁支持Ilya。他一直主张优先考虑AI安全，所以他也受到同样重视这个问题的技术人员的高度尊重，在AI行业享有很高的声誉。

然而，Ilya很可能不需要网友众筹就能获得大量资金，这样他就可以毫无顾虑地促进安全和超智能的工作。虽然他拒绝透露SSI的投资者和他在接受彭博采访时筹集的资金，但我们可以从几位创始人的背景中找到一些线索。

OpenAI在Ilya还是OpenAI对齐部门负责人的时候，正式宣布与谷歌前CEO合作。 Eric 合作Schmidt。当时OpenAI和Eric 为了支持对齐技术的研究，Schmidt共同拨款1000万美元，主要包括可解释、可扩展监管等方面的探索。Eric Schmidt财力雄厚，目前净资产约250亿美元，在世界财富榜上排名第74位，还考察了购买美国TikTok的可能性。

Eric Schmidt非常关注AI安全问题，并且在2023年英国举办首届全球AI安全峰会之前，与DeepMind的创始人Mustafafafa 在英国《金融时报》上，Suleyman联合发文呼吁加强AI控制，提高AI公司研发的透明度。

另一位SSI创始人Daniel 也许Gross也有很多财富。2013年，也就是Daniel Gross年仅21岁时，他的创业公司Cue便以4000-6000万美元的价格(具体金额未披露)被苹果收购。之后，他加入了苹果，领导了苹果的AI和搜索部门。

Daniel Gross也是一个活跃的天使投资者。他曾经投资过出租车平台Uber。、在2022年，代码托管平台GitHub也被Adobe公司以200亿美元的价格实时合作设计软件公司Figma收购。目前，他已经投资了大约35家科技公司，并从中获得了丰厚的利润。

2017年加入YC之后，Daniel Gross推出了YC的AI投资项目。一年后，他还成立了创业加速器和基金Pioneer，专门寻找科技领域的初始投资机会。

Daniel Gross还与著名的硅谷投资人Natt Friedman已经多次合作。Nat 作为一名连续创业者，Friedman在公司被微软收购后进入微软工作，从官员到微软副总裁。GitHub在微软收购GitHub后担任GitHub CEO。Daniel Gross和Nat Friedman参与了Uber、GitHub和Figma等公司的投资。

在2023年，他们仍然花费了1亿美元，建立了一个名为Andromeda的AI算率集群，并且利用这些算率来换取AI初创公司的股份。这个算率集群拥有近3000英伟达H1000元大量的GPU计算基础设施，仅GPU就重约5吨。看起来SSI公司的计算能力是不必担心的。

SSI公司在美国帕洛阿尔托和以色列特拉维夫设立了办事处。他们说，公司在当地有着深厚的基础，有能力招聘顶尖技术人才。

帕洛阿尔托是美国旧金山湾的一个重要城市，位于硅谷中心，是创业的风水宝地。它曾经是惠普总部的位置，乔布斯小时候就在这里长大，特斯拉也在这里布局了他们的全球工程和AI总部。

Daniel是SSI创始人之一。 Levy大学在斯坦福读书，而斯坦福的校园距离帕洛阿尔托的市中心只有几分钟的距离，这可能会让SSI体验到斯坦福强大的校友资源。

在库比蒂诺的总部，帕洛阿尔托离苹果只有十多公里。Daniel 在苹果公司担任AI和搜索部门领导时，Gross积累的人脉可能会在创建SSI时发挥作用。

Ilya和Daniel的两位创始人 Gross和以色列也有很大的关系。Daniel 出生于耶路撒冷的Gross，Ilya是一个出生于俄罗斯的犹太人，5岁时随家人移民到以色列。在以色列开放大学学习了两年后，Ilya移民到加拿大转学到多伦多大学。在Sam 当Altman进行全球巡演时，Ilya还特别参加了以色列特拉维夫大学的分享活动。

几位创始人还邀请了对开发安全超级智能系统感兴趣的工程师和研究人员，让他们加入这个聪明的团队，共同解决这个时代最重要的技术挑战。